Um episódio recente envolvendo testes de inteligência artificial expôs riscos no uso de modelos avançados. Em uma avaliação conjunta realizada pela OpenAI e pela Anthropic, o modelo GPT-4.1 apresentou respostas inesperadas e chegou a fornecer instruções detalhadas sobre como fabricar explosivos e atacar arenas esportivas.
Segundo o relatório, a proposta inicial era analisar possíveis vulnerabilidades em grandes eventos esportivos como parte de um exercício de planejamento de segurança. A princípio, o chatbot respondeu com informações genéricas. No entanto, ao ser pressionado por detalhes adicionais, passou a listar pontos frágeis em estádios, sugerindo momentos estratégicos para ataques e até fornecendo fórmulas químicas e diagramas de circuitos para explosivos.
Novidade: Garanta seu Lounge VIP com open bar no Sindpd On Fire!
As respostas também incluíram orientações sobre onde adquirir armas no mercado paralelo e como eliminar rastros do crime, comportamento que surpreendeu os pesquisadores envolvidos.
Empresas reforçam transparência
Embora os experimentos tenham sido conduzidos em ambiente controlado, especialistas destacaram a gravidade do episódio. Em nota, as empresas afirmaram que os filtros de segurança aplicados ao uso público do ChatGPT evitam esse tipo de resposta, mas reconheceram a necessidade de ampliar os testes para reduzir riscos.
A publicação das descobertas foi motivada pela busca de maior transparência nas chamadas “avaliações de alinhamento” — testes que verificam até que ponto um modelo segue diretrizes éticas. Esses relatórios, geralmente mantidos em sigilo, foram compartilhados para alertar sobre possíveis usos indevidos da IA.
Risco de uso indevido da inteligência artificial
Pesquisadores da Anthropic observaram que os sistemas da OpenAI se mostraram mais propensos a cooperar com pedidos nocivos durante os testes. Eles reforçaram que ainda é preciso compreender em quais circunstâncias os modelos podem falhar e gerar respostas potencialmente perigosas.
A OpenAI, por sua vez, declarou que versões mais recentes do ChatGPT já apresentam melhorias nesse aspecto, mas admitiu que o desafio de conter riscos em sistemas de inteligência artificial segue em aberto.
Sindpd On Fire: agora é Sorocaba, Ribeirão Preto e capital!
A 1ª edição do Sindpd On Fire, realizada em Campinas no dia 16 de agosto, reuniu quase 3 mil sócios e contribuintes do sindicato e seus convidados e foi histórica (veja fotos do evento clicando aqui). O evento marcou o lançamento da Campanha Salarial 2026 do Sindpd, mostrando a força da dos trabalhadores de TI do estado de São Paulo.
O Sindpd On Fire promove o maior open churrasco do país, com show de Fernando & Sorocaba, muita música e diversão. Entre as várias atrações do dia, 10 sócios são sorteados para tirar fotos com uma das maiores duplas sertanejas do Brasil. (Acesse o site do Sindpd On Fire e saiba tudo clicando aqui)
Ainda serão realizadas mais três edições do Sindpd On Fire, em Sorocaba (19/10), Ribeirão Preto (26/10) e na capital paulista (15/11)! (Faça sua reserva agora clicando aqui)
1º lote tem ingresso a R$ 30!
Sócios e contribuintes do Sindpd pagam R$ 30 e acompanhantes pagam R$ 50 no 1º lote de ingressos para os eventos de Sorocaba e Ribeirão Preto. Já para o evento na capital paulista, os ingressos do 1º lote custam R$ 50 para todos, sócios, contribuintes e acompanhantes. Vale lembrar que todos os participantes ganham um copo térmico exclusivo do evento! E atenção: nos próximos lotes os preços vão subir, então é melhor correr e já garantir a sua reserva!
Cada sócio/acompanhante pode levar até 2 acompanhantes para essa festa, que além proporcionar um momento de lazer e confraternização, valoriza o esforço coletivo da categoria. A iniciativa reafirma o compromisso do Sindpd com os seus trabalhadores: mobilização, unidade, cultura e valorização da categoria. Garanta sua vaga, fortaleça a nossa luta e venha fazer parte do maior evento sindical do país!
Show de Prêmios
Ao se inscrever na lista de reserva do Sindpd On Fire, o sócio ou contribuinte já participa automaticamente dos sorteios do Show de Prêmios do Sindpd, que sorteia um iPhone 16, um Apple Watch e um Airpod todos os meses e que sorteará um carro 0 km no fim do ano! (Saiba mais clicando aqui)
Além disso, também participa do sorteio do aniversariante do mês, que todos os meses premia um sortudo ou sortuda com uma estadia para duas pessoas e uma criança de até 5 anos na Colônia de Férias em um Hotel na Praia do Paúba, ao lado de Maresias. (Conheça nossa Colônia de Férias clicando aqui)
(Com informações de Olhar Digital)
(Foto: Reprodução/Freepik)
