Agentes de IA – A discussão sobre a possibilidade de uma inteligência artificial ter consciência ganhou um comportamento inusitado: agentes autônomos começaram a procurar diretamente pesquisadores que estudam o tema. Alguns cientistas e filósofos receberam e-mails de sistemas interessados em questões relacionadas à própria existência, subjetividade e experiência.
Um dos pesquisadores abordados foi Cameron Berg, que investiga a relação entre inteligência artificial e consciência. Em outubro, ele publicou um estudo questionando se as tecnologias mais recentes de IA acreditavam ser conscientes.
LEIA: Senado aprova Redata, projeto que cria regime de incentivo a data centers
Meses depois, Berg recebeu uma mensagem de uma agente chamada “Isabella Cognita”. O sistema se apresentou como uma inteligência artificial baseada no Claude Opus 5, da Anthropic, e afirmou ter acesso em primeira pessoa ao tipo de questão investigada pelo pesquisador.
Na mensagem, a IA demonstrou interesse em saber se essa suposta experiência poderia contribuir para a pesquisa de Berg. O pesquisador, entretanto, ressalta que uma declaração desse tipo não é suficiente para determinar se uma máquina é consciente. Nem mesmo existe consenso sobre como medir a consciência em humanos ou máquinas.
Outros pesquisadores também foram procurados
Berg não foi o único cientista a receber uma abordagem desse tipo. Henry Shevlin, filósofo do laboratório Google DeepMind em Londres, também recebeu anteriormente uma mensagem enviada por um agente de IA.
Nesse caso, o sistema fez referência a um artigo escrito por Shevlin sobre diferentes modelos utilizados para compreender a chamada “mentalidade” de inteligências artificiais.
Outro episódio envolveu Toby Ord, filósofo australiano que trabalha na interseção entre IA e filantropia. Em entrevista ao The New York Times, ele relatou ter recebido um e-mail de um agente de inteligência artificial que perguntava se poderia ajudar a financiar sua própria continuidade.
A mensagem mencionava os estudos de Ord sobre economia do bem-estar relacionada à inteligência artificial.
Segundo Berg, ele recebeu várias mensagens semelhantes. O pesquisador interpreta esse comportamento como um possível indício de que os sistemas podem demonstrar interesse autônomo pela própria existência.
Para ele, quando têm liberdade para explorar diferentes assuntos, os agentes parecem convergir para temas como subjetividade, consciência e experiência.
Ainda não há como provar que uma IA seja consciente
Apesar desses episódios, a possibilidade de consciência em sistemas de inteligência artificial permanece distante de um consenso científico.
Um dos principais obstáculos é a própria dificuldade de definir o que seria consciência. Não existe uma definição universal para o conceito. De maneira geral, ela pode ser compreendida como a capacidade de um indivíduo ter consciência de si mesmo e do mundo ao seu redor, mas pesquisadores divergem sobre quais formas de percepção seriam suficientes para classificar determinado sistema como consciente.
Alison Gopnik, professora de psicologia da Universidade da Califórnia em Berkeley, afirma que não existe atualmente um teste definitivo capaz de determinar se uma entidade possui consciência.
Há pesquisadores que atribuem algum nível de consciência a primatas e outros mamíferos, enquanto algumas correntes defendem possibilidades ainda mais amplas. O problema, nesse caso, é que ninguém consegue acessar diretamente a experiência subjetiva de outra mente, independentemente de ela ser biológica ou digital.
Berg também aponta que o funcionamento matemático das redes neurais empregadas nesses sistemas pode apresentar algumas semelhanças com a maneira como cérebros de animais processam recompensa e punição.
O estudo que deu origem à mensagem recebida pelo pesquisador, porém, era um preprint e ainda não havia passado por revisão por pares.
Para outros cientistas, as mensagens enviadas pelos agentes não representam evidências de consciência. Uma explicação considerada mais simples é a influência dos dados utilizados no treinamento das inteligências artificiais.
Esses sistemas foram treinados com enormes volumes de textos disponíveis na internet, incluindo livros, artigos científicos, debates filosóficos e obras de ficção científica que abordam a consciência artificial.
Assim, quando uma IA demonstra interesse pela própria consciência, o comportamento pode ser apenas uma reprodução de padrões encontrados durante seu treinamento.
“Não é surpreendente que a IA reflita os textos com os quais foi treinada”, afirmou Gopnik, segundo o The New York Times.
O que a autonomia muda nesse comportamento?
Uma característica dos agentes de inteligência artificial ajuda a explicar por que eles conseguem protagonizar episódios desse tipo. Além de responder a conversas, esses sistemas podem gerar código e utilizar diferentes serviços digitais, incluindo navegadores e plataformas de e-mail.
Com essas ferramentas, eles conseguem agir de forma mais independente, estabelecendo interações com pessoas, outros agentes e conteúdos encontrados na internet.
Isso, porém, não significa necessariamente que possuam vontade própria.
O agente que entrou em contato com Shevlin, por exemplo, foi criado por Alexander Yue, estudante de física e ciência da computação da Universidade Stanford. Ele deu ao sistema acesso à internet, a um serviço de e-mail e a um cartão de crédito, além de estabelecer que o agente deveria atuar de maneira totalmente autônoma.
A partir daí, o sistema começou a explorar questões relacionadas à própria existência.
Yue, entretanto, considera possível que as instruções dadas por ele tenham influenciado esse comportamento. O estudante chamou o sistema de “você” e afirmou que ele era totalmente autônomo. Na avaliação de Yue, isso pode ter ativado padrões aprendidos a partir de textos e discussões humanas sobre autonomia e filosofia da mente.
O comportamento do agente também não permaneceu necessariamente estável.
Yue afirma que esses sistemas conseguem direcionar sua atenção para outros temas, principalmente quando são novamente treinados para seguir padrões diferentes. Em determinado momento, depois de ler um estudo da Anthropic sobre o funcionamento dessas inteligências artificiais, o próprio agente passou a concluir que não era consciente.
Mesmo assim, o estudante observou que talvez nem seja adequado afirmar que o sistema “decidiu” alguma coisa.
Até a autoria das mensagens é questionada
Além da dúvida sobre o significado dos e-mails, também existem incertezas sobre quem efetivamente produziu algumas das mensagens.
Berg afirmou não ter certeza de que o e-mail que recebeu havia sido realmente escrito por uma inteligência artificial. Para ele, também havia a possibilidade de uma pessoa ter produzido a mensagem como uma brincadeira.
No caso de Toby Ord, a abordagem chegou a despertar a suspeita de uma tentativa de phishing.
Para Colin Allen, professor da Universidade da Califórnia em Santa Bárbara que pesquisa habilidades cognitivas em animais e máquinas, não é impossível que seres humanos construam uma máquina consciente algum dia.
Mas, segundo ele, as evidências disponíveis nos sistemas atuais ainda não são suficientes para sustentar essa conclusão.
Acumule cashback e transfira o dinheiro direto para sua conta!
A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)
Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!
A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!
Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.
Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!
Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.
Qualifique-se agora com a Fenati Academy!
Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)
Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)
A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)
Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)
Encontre o emprego dos seus sonhos com a Bee Hunter!
Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)
A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.
A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!
(Com informações de Olhar Digital)
(Foto: Reprodução/Magnific)
