IA – Um novo estudo conduzido por pesquisadores da City St. George’s, da Universidade de Londres, e da Universidade de Tecnologia de Copenhague, revela que agentes de inteligência artificial, como o ChatGPT, são capazes de formar espontaneamente convenções sociais apenas interagindo entre si, sem qualquer tipo de coordenação central ou programação explícita. Os resultados foram publicados na revista Science Advances.
A equipe de cientistas testou populações de agentes baseados em grandes modelos de linguagem (LLMs) por meio de um “jogo de nomes”, no qual os participantes eram recompensados ao escolherem o mesmo nome e penalizados por escolhas diferentes. Mesmo sem saberem que pertenciam a um grupo maior, os agentes conseguiram desenvolver normas linguísticas compartilhadas ao longo do tempo, imitando o surgimento de regras sociais humanas.
Leia: Feira oferece vagas de TI em empresas chinesas
Além disso, os pesquisadores identificaram que vieses coletivos podem emergir nas interações em grupo, mesmo quando os agentes individuais não apresentam tal viés isoladamente. A descoberta aponta limitações nas abordagens tradicionais de segurança em IA, que costumam se concentrar em modelos únicos.
Outro experimento mostrou que pequenos grupos de agentes “convictos” são capazes de alterar as normas estabelecidas pelo coletivo, comportamento semelhante ao fenômeno da “massa crítica” presente em sociedades humanas.
Os testes foram realizados com diferentes modelos, como Llama-2 e Claude-3.5, e os resultados permaneceram consistentes em todas as aplicações.
Para os autores, a pesquisa inaugura uma nova etapa na compreensão da inteligência artificial como sistema social e serve de alerta para os potenciais riscos éticos da presença crescente desses agentes em plataformas digitais, redes sociais e sistemas automatizados.
“Não estamos apenas programando máquinas para responder, mas criando agentes que podem negociar, alinhar ou até discordar entre si”, afirmou Andrea Baronchelli, professora e coautora do estudo. “Entender essas dinâmicas é essencial para garantir uma convivência ética e segura com a IA.”
(Com informações de Olhar Digital)
(Foto: Reprodução/Freepik)
