Para contornar não só “injeções de prompts”, mas outros problemas que possam atingir os agentes de IA do Atlas, Stuckey diz que a OpenAI está tomando diversas ações como identificar e derrubar campanhas de ataques e investir na infraestrutura para prevenir golpes assim. A empresa, acrescenta ele, também oferecer controles para impedir o Atlas de acessar credenciais do usuário durante situações em que age em nome da pessoa (“modo desconectado”) ou para o agente de IA requerer atenção humana quando a navegação é feita por um site sensível (“modo de observação”).
A mensagem de Stuckey evidencia ainda dois detalhes dos planos da OpenAI:
- Foco é transformar todo navegador em um agente de IA, um modelo de uso em que a máquina toma decisões em nome do usuário (“No Atlas, o agente do ChatGPT pode fazer tudo por você”). Ainda assim, o diretor admite que falhas em ocasiões bem desagradáveis podem ocorrer (“O agente ChatGPT é poderoso e útil, e projetado para ser seguro, mas ainda pode cometer erros (às vezes surpreendentes!), como tentar comprar o produto errado ou esquecer de entrar em contato com você antes de realizar uma ação importante”). Bom lembrar: no Atlas, os agentes de IA são ativados só para usuários pagantes.
- Aposta no Atlas é de longo prazo (“Nosso objetivo a longo prazo é que você possa confiar no agente ChatGPT para usar seu navegador, da mesma forma que confiaria em seu colega ou amigo mais competente, confiável e atento à segurança.”). Para bom entendedor, a mensagem não poderia ser mais clara: talvez seja bom esperar esse dia chegar.
Okay, “injeções de prompts” são um risco existencial para IAs generativas. Mas até agora os danos aos usuários configuram apenas uma possibilidade, já que não foram identificadas campanhas massivas que explorem a brecha.
Os incentivos para cibercriminosos eram baixos, já que chatbots de IA, ainda que expostos à falha, não saiam por aí inspecionando páginas da web. E os browsers Comet, da Perplexity, e o Fellou possuem bases pequenas de membros.
No entanto, a entrada da OpenAI no mundo dos navegadores muda as coisas. Com 800 milhões de usuários do ChatGPT, todos potenciais adeptos do Atlas, a empresa acaba de dar a criminosos cibernéticos centenas de milhões de motivos para pensar.
Fonte.:UOL Tecnologia.:
