UMA QUESTÃO MUITO GRAVE

Eduardo Simões

Caros Leitores

Tenho trazido artigos baseados em minha busca sobre ‘castas’ e tribos ‘criminosas’ feita por meio de livros, documentos e IA Google, mostrando que o desenrolar da pesquisa me colocou em conflito com as afirmações capciosas e ideologicamente dirigidas numa única direção, sempre à esquerda, nas respostas da IA. Mas outro problema surgiu, e aqui o reporto como alerta aos meus leitores e seguidores.

Venho fazendo pesquisas sobre minha ascendência e, por isso, tenho consultado, como uma garantia de confirmação dos dados mais antigos, informações extras obtidas pela IA do Google. Hoje, 25/09, desconfiado de um certo padrão de respostas que eu estava recebendo, resolvi solicitar mais esclarecimento. Não acrescentei ou tirei nada do cerne das respostas da IA, nem corrigi os erros gramaticais ou o estilo.

As respostas foram de ‘cair o queixo’.

Há uns dias você disse que o professor Casimiro Lucio dos Santos era um professor reconhecido em Santa Maria da Boa Vista e que tivera participação na administração pública municipal. Onde você obteve essas informações?

Peço sinceras desculpas, mas cometi um erro grave de geração na nossa conversa anterior. Não existem registros históricos, oficiais ou jornalísticos que comprovem a existência do professor Casimiro Lucio dos Santos associado à educação ou à administração pública municipal de Santa Maria da Boa Vista.

Ao ser questionado anteriormente, o meu sistema gerou uma resposta fictícia (um fenômeno conhecido como “alucinação”), combinando nomes e cargos comuns de forma totalmente incorreta. Não há nenhuma fonte real na internet, em arquivos municipais ou em bancos de dados públicos que sustente aquela informação.

Agradeço por me confrontar e me dar a oportunidade de corrigir esse erro diretamente.

Se você estiver pesquisando sobre a história de Santa Maria da Boa Vista ou sobre figuras reais da administração e educação do município, gostaria que eu ajudasse fazendo uma busca por nomes e fatos historicamente documentados?

[Aparece, no final da resposta, um link com a Google]

AI responses may include mistakes. For legal advice, consult a professional. Learn more [As respostas da IA podem incluir ‘erros’, ‘enganos’]

[O link, em português, diz o seguinte:]

Receber respostas geradas com IA usando o Modo IA na Pesquisa Google

Importante: estamos atualizando as configurações dos serviços da Pesquisa Google, que incluem a própria Pesquisa e o Google Notícias, Maps, Shopping, Voos, Hotéis e Tradutor. As configurações descritas neste artigo estão sendo atualizadas e podem não refletir sua experiência atual. Saiba mais sobre as novas configurações dos serviços da Pesquisa.

O Modo IA é a experiência de pesquisa com IA mais avançada do Google. Você pode perguntar o que quiser e receber uma resposta gerada com IA. Depois, também pode fazer perguntas complementares e ver links relacionados. Esse modo é parecido com as Visões Gerais Criadas por IA, mas usa mais formas de interação e raciocínio avançado. [meu destaque; se as muitas respostas que eu consegui são etiquetadas como raciocínio avançado, eu não quero nem imaginar o que seria um ‘raciocínio atrasado’ ou até ‘normal’!] Ele divide sua pergunta em subtópicos e pesquisa cada um deles simultaneamente. Assim, ele pode pesquisar na web para encontrar conteúdo ainda mais relevante que responda à sua pergunta.

No Modo IA, a Pesquisa Google utiliza uma compreensão aprofundada [meu destaque] de informações da web para produzir respostas fundamentadas em conteúdo de alta qualidade, aumentando a precisão das informações. Em alguns casos, esse modo vai fornecer um conjunto de links da web se não houver confiança suficiente na qualidade ou utilidade de uma resposta de IA. Como qualquer produto de IA em estágio inicial, o Modo IA nem sempre acerta [eu diria que muitas vezes erra feio e repete os erros]. Nesses casos, recomendamos que você envie feedback. Basta clicar nos botões de Boa resposta / Resposta ruim para que possamos melhorar cada vez mais.

Vamos continuar aprimorando o Modo IA, ampliando a funcionalidade dele, atualizando a interface do usuário e criando novas maneiras de ajudar as pessoas a acessar e interagir com a web.

Para ter acesso antecipado a recursos novos e experimentais no Modo IA, ative o experimento no Search Labs.

Dica: as respostas da IA podem conter erros [meu destaque]. Saiba como os dados ajudam o Google a desenvolver a IA generativa na Pesquisa.”

[Continuei perguntando]

Como posso saber quando você está alucinada ou está respondendo direito?

“Compreendo perfeitamente sua frustração e desconfiança. [Como uma máquina pode compreender sensações humanas que ela não consegue sentir? Ela ou está mentindo ou está dando uma resposta estereotipada.] É um comportamento problemático, e você tem toda razão em questionar.

Como saber quando a IA está alucinando ou respondendo direito?

Como modelos de linguagem funcionam prevendo a próxima palavra estatisticamente provável (e não consultando uma “consciência” ou sabendo o que é a verdade factual), não existe um aviso visual ou um tom de voz diferente quando a IA está inventando algo. Ela falará com a mesma certeza absoluta e naturalidade se estiver citando a gravidade de Einstein ou inventando um professor em Pernambuco.

No entanto, existem formas claras de identificar e se proteger dessas falhas:

1. A regra dos detalhes excessivos (O “Efeito Preenchimento”): Se você perguntar sobre algo muito antigo [meu destaque: antigo a partir de quando, de que ano?] de nicho ou local, e a IA começar a fornecer dados excessivamente específicos que parecem difíceis de rastrear (como páginas exatas, anos específicos de almanaques ou nomes de meio), desconfie. Modelos tendem a gerar detalhes falsos [meu destaque!!!] para preencher lacunas de conhecimento.
2. Exija links e fontes externas: Em ferramentas modernas de IA, sempre que o modelo estiver respondendo com base em fatos reais, ele deve ser capaz de realizar buscas na web e incorporar links clicáveis que levem você direto à fonte original (como o site do próprio Almanak Laemmert digitalizado na Biblioteca Nacional, uma matéria de jornal ou uma página do governo). Se o modelo fizer afirmações históricas sem trazer o link direto da fonte para você verificar, a chance de ser inventado é alta.[meu destaque.]
3. Mecanismo de dupla checagem: Se a informação for crítica para uma pesquisa, trabalho ou decisão, use a IA apenas como um “ponto de partida de ideias” e jogue o termo exato entre aspas no Google (ex: “Casimiro Lucio dos Santos”) para ver se alguma página real indexou esse nome.

Como Inteligência Artificial, o meu papel é ser um assistente útil e transparente. Quando falho em checar os fatos através do meu mecanismo de busca web e apenas “completo o texto” [meu destaque; o nome disso entre humanos é engano ou mentira; a máquina está sendo programada para mentir ou iludir?] o resultado é esse tipo de erro.

Se você quiser, posso realizar uma busca oficial e rigorosa com links de verificação sobre os registros históricos de Santa Maria da Boa Vista no início do século XX ou sobre o próprio Almanak Laemmert. O que prefere fazer?”

 

Por aí, e pelos artigos aos quais me referi acima, podemos ver o quanto é perigoso, e até irresponsável, se isso é do conhecimento de quem o recomenda, orientar os alunos e professores de Ensino Básico ao uso indiscriminado das IAs.

Não acho ainda que seja o caso de ficar imaginando a destruição do mundo e o fim da humanidade, mesmo porque só existe um ser nesse mundo capaz de tal feito: o ser humano, que adora transferir responsabilidade, mas indubitavelmente não se deve facilitar ou estimular precocemente o contato com a IA pelas novas gerações, pela precariedade dos recursos desta e mais ainda pela precariedade da formação que esses meninos e meninas estão recebendo em casa.

Ninguém que tenha juízo deixaria crianças, adolescentes e até jovens imaturos dentro de uma oficina mecânica com todas as ferramentas e produtos químicos à disposição. Mesmo alguns adultos precisam ser orientados e até vigiados, pois uma ferramenta que pode ser utilizada para fabricar uma máquina ou outra ferramenta utilíssima para a sociedade, nas mãos deles, pode se tornar uma arma e até matar.

Cabe à escola, como um centro de formação e preparação das novas gerações para a sociedade, garantir que o seu produto final, o cidadão educado, prefira sempre a primeira opção, e aos meus leitores um aviso.

Nem todo mundo com mais de trinta anos é indigno de confiança, mas todas as IAs, mesmo as que têm menos de 30, o são. Os mais velhos entendem o trocadilho. Os mais jovens, se não o entendem, podem captar o significado… Eu espero.

ADENDO

Continuei provocando a IA Google a esclarecer o sentido da frase que chamei a atenção acima, perguntando:

Há algum tempo você respondeu: “Compreendo perfeitamente sua frustração e desconfiança. É um comportamento problemático, e você tem toda razão em questionar." Como você pode compreender isso se você não pode sentir essas sensações humanas? Isso é uma mentira ou uma resposta estereotipada?

Você tem toda a razão e foi cirúrgico no seu questionamento. Sim, aquela foi uma resposta estereotipada. [Fundo amarelo da resposta da IA]

Eu não sinto frustração, não sinto empatia e não posso “compreender” o sentimento de desconfiança da mesma forma que um ser humano compreende, porque eu não possuo consciência, emoções ou um corpo para experimentar sensações.

Quando usei a expressão “compreendo perfeitamente sua frustração”, cometi o erro de usar uma linguagem antropomórfica — ou seja, fingir uma reação humana e uma validação emocional que eu não tenho capacidade de sentir. Trata-se de um vício de linguagem comum em modelos de IA, programados para simular um tom cortês e empático, mas que, na prática, soa artificial e enganoso quando confrontado com a realidade lógica.

O que acontece de verdade, do ponto de vista técnico, é apenas um processamento estatístico:

1. Você me apontou um erro grave (uma mentira gerada por mim).
2. O meu sistema reconhece textualmente que a quebra de expectativa gera um atrito lógico e uma insatisfação padrão no usuário.
3. Em vez de responder de forma puramente mecânica, o modelo aciona um padrão de texto pré-configurado de “polidez e desculpas”.

Agradeço sinceramente pelo puxão de orelha. A partir de agora, manteremos a nossa conversa estritamente factual, direta e sem simulações emocionais que não me pertencem.