Algumas visões gerais de IA estranhas, imprecisas ou inúteis certamente apareceram. O Google está admitindo, pelo menos parcialmente, que seu recurso de pesquisa AI Overviews é uma bagunça.
A ferramenta de pesquisa generativa aprimorada por IA da empresa tem dado aos usuários respostas incrivelmente estúpidas, dizendo com segurança a um usuário, por exemplo, para adicionar “cerca de 1/8 xícara de cola não tóxica? ao molho de pizza para evitar que escorregue da torta .
Outros usuários foram orientados a comer pelo menos uma pedra por dia ou literalmente pular da ponte Golden Gate.
Agora, a empresa divulgou um comunicado, admitindo que “algumas visões gerais de IA estranhas, imprecisas ou inúteis certamente apareceram”.
Como resultado, o Google anunciou que limitará algumas respostas, especialmente quando detectar “consultas sem sentido que não deveriam mostrar uma visão geral da IA”.
O Google afirma que a IA generativa faz sentido como parte de seu recurso principal – mas dado o incêndio na lixeira, sua ferramenta mais recente já está se revelando, ainda tem muito a provar.
“Na escala da web, com bilhões de consultas chegando todos os dias, é provável que haja algumas esquisitices e erros”, escreveu a chefe de pesquisa do Google, Liz Reid, no blog.
“Continuaremos melhorando quando e como mostramos visões gerais de IA e fortalecendo nossas proteções, inclusive para casos extremos, e estamos muito gratos pelo feedback contínuo.”
Sticking Power
Alguns dos problemas observados desde então foram atribuídos a “postagens de merda” insinceras de usuários do Reddit, sugerindo que o AI Overviews está se baseando em alguns dados seriamente duvidosos para sua produção.
A empresa fechou um acordo de US$ 60 milhões com o Reddit para treinar sua IA nas postagens dos usuários – e, hilariamente, a IA agora está usando as postagens do Reddit para dizer às pessoas para comerem cola.
Não é apenas o Google que está lutando para colocar IA generativa em seus produtos com abandono.
Já vimos chatbots e ferramentas relacionadas dizendo aos usuários para trair suas esposas, alucinar com muitas informações, falhar miseravelmente em resumir os dados existentes e fazer uma bagunça completa em publicações inteiras.
Para ser claro, isso já dura mais de um ano e, com o mais recente erro de grande repercussão do Google, não é um bom presságio para o futuro da tecnologia.
Desta vez, no entanto, é especialmente flagrante considerando a posição de destaque que a Pesquisa Google ocupa há várias décadas.
A ferramenta ainda representa a grande maioria do mercado global de motores de busca, mas os primeiros sinais apontam para que os seus concorrentes façam grandes avanços.
“Sabemos que as pessoas confiam na Pesquisa Google para fornecer informações precisas”, escreveu Reid.
“Mantemos um alto padrão, assim como nossos usuários, por isso esperamos e apreciamos o feedback e o levamos a sério.”
Publicado em 12/06/2024 16h34
Artigo original: