Sem o conhecimento dos usuários, porém, essa URL também é disponibilizada para mecanismos de busca como Google. Ou seja, se a pessoa clicar no botão de compartilhamento significa que a conversa se tornará pública. Segundo a Forbes, as pessoas não foram avisados de que isso aconteceria. Algumas das conversas expostas, inclusive, continham dados pessoais, documentos e planilhas.

Empresa proíbe o uso de seu bot para “promover danos graves à vida humana”. Nas regras, também proíbe o uso para “desenvolver armas biológicas, armas químicas ou armas de destruição em massa”. Apesar disso, é possível encontrar de forma pública conversas compartilhadas em que a Grok oferecia aos usuários instruções sobre como fabricar drogas ilícitas como fentanil e metanfetamina, codificar um malware autoexecutável, construir uma bomba e métodos de suicídio.

Grok também ofereceu um plano detalhado para o assassinato de Elon Musk. Por meio da função “compartilhar”, as instruções ilícitas foram publicadas no site da Grok e indexadas pelo Google.

IA Musk não é a única startup de IA a publicar conversas de usuários com seus chatbots. No início deste mês, usuários do ChatGPT, da OpenAI, também descobriram que suas conversas estavam aparecendo nos resultados de busca do Google. Após reclamações, a empresa mudou sua política. Em nota, afirmou que está comprometida em corrigir o erro e melhorar a segurança da plataforma.

A xAI ainda não se posicionou após a descoberta das conversas expostas. O texto será atualizado em caso de resposta.