- Economia dos EUA está em 'ponto de inflexão', diz assessora de Biden
- Cinco pontos-chave da suposta nova tentativa de assassinato de Trump
- Morre Gary Shaw, ídolo do Aston Villa campeão da Europa em 1982
- Acusação contra opositor venezuelano está 'aberta', mas 'paralisada', diz advogado
- Governo argentino obriga linhas aéreas a garantirem 50% do serviço durante greves no país
- Chiellini retorna à Juventus como diretor
- Praga pede 'informações' sobre cidadão tcheco detido na Venezuela
- O 'batismo' na Champions dos técnicos de Liverpool, Milan, Bayern e Juventus
- Os Mercedes: família salvadorenha sofre com gangues e governo
- Trump atribui suposta tentativa de assassinato contra ele à 'retórica' de Biden e Kamala
- Maior siderúrgica do Chile fecha por forte concorrência do aço chinês
- WTA publica novo ranking com Iga Swiatek no topo; Bia Haddad segue no Top 20
- 'Youtuber' francês sem experiência em alpinismo filma subida ao Everest
- Rússia determina evacuação de localidades na região de Kursk, na fronteira com a Ucrânia
- Começa o julgamento que coloca império do Manchester City em risco
- Gisèle Pelicot, de vítima a símbolo da luta contra a submissão química
- Dani Olmo sofre lesão na coxa e desfalcará o Barcelona por 1 mês
- Tempestade Boris deixa ao menos 15 mortos e enchentes na Europa central
- Com Sinner no topo, ATP publica ranking da semana sem mudanças no Top 20
- Comissão Europeia sofre abalo após demissão repentina do francês Thierry Breton
- IA 'acelera a crise climática', afirma especialista
- O futuro do Tiktok nos EUA depende da Justiça
- Especialistas apontam radioterapia mais curta para tratar o câncer de mama
- Seca e incêndios incomuns preocupam setor agrícola no Brasil
- Nobel da Paz iraniana Narges Mohammadi pede fim do silêncio diante da opressão das mulheres
- Alemanha restabelece controles em suas fronteiras para conter a migração ilegal
- Dominique Pelicot não comparece mais uma vez a julgamento por estupro na França
- Tito Jackson, irmão de Michael Jackson, morre aos 70 anos
- Milei afirma que vetará leis para alcançar 'déficit zero' em 2025
- 'Xógum' conquista vitória histórica no Emmy
- Imprensa americana identifica suspeito de aparente tentativa de assassinato de Trump
- Napoli goleia Cagliari e assume liderança do Italiano; Inter empata com Monza
- Nantes e Lens tropeçam e se afastam da briga pela liderança no Francês
- Rabiot tem princípio de acordo para jogar no Olympique de Marselha
- Imunoterapia se consolida como um tratamento-chave contra o câncer
- Sindicato diz que negociações com a Boeing serão retomadas na terça
- Trump está 'seguro após disparos em sua proximidade', diz campanha
- Como a reforma judicial impactará a economia mexicana?
- Após feito histórico, tripulação da 1ª missão espacial privada retorna com sucesso à Terra
- Repressão e espírito de revolta no Irã marcam os dois anos da morte de Mahsa Amini
- 'Eu odeio a Taylor Swift', escreve Donald Trump em sua rede social
- Líder ambientalista que lutava contra mineração a céu aberto é assassinado em Honduras
- Fed prestes a reduzir taxas de juros pela primeira vez desde 2020
- Lamine Yamal comanda goleada do líder Barça no Campeonato Espanhol
- Real Madrid confirma lesão de Brahim Díaz, que pode ficar até 3 meses afastado
- Com lesão na coxa, Donnarumma está fora da estreia do PSG na Champions
- 'Xógum' vive expectativa de conquistar vitória histórica no Emmy
- Papa se solidariza com famílias de seis reféns israelenses encontrados mortos em Gaza
- Jogador saudita é internado em UTI após cair de varanda em Dubai
- Após feito histórico, tripulação da primeira missão espacial privada retorna com sucesso à Terra
Inteligência artificial já engana humanos e isso é um problema, dizem especialistas
Especialistas têm alertado há muito tempo sobre a ameaça representada pelo descontrole da inteligência artificial (IA), mas um novo artigo científico sobre essa tecnologia em expansão sugere que isso já está acontecendo.
Os sistemas de IA atuais, projetados para serem honestos, desenvolveram uma habilidade preocupante para a enganação, de acordo com um artigo de uma equipe de pesquisadores publicado na revista Patterns nesta sexta-feira (10).
E embora os exemplos possam parecer triviais, os problemas subjacentes que eles expõem poderiam ter consequências graves, disse o principal autor do estudo, Peter Park, bolsista de pós-doutorado no Instituto de Tecnologia de Massachusetts (MIT), especializado em segurança de IA.
"Esses perigos tendem a ser descobertos apenas depois que ocorrem", afirmou Park à AFP, acrescentando que "nossa capacidade de treinar para tendências de honestidade em vez de tendências de engano é muito baixa".
Ao contrário do software tradicional, os sistemas de IA de aprendizado profundo não são "escritos", mas "crescem" por meio de um processo semelhante à reprodução seletiva, explicou Park.
Isso significa que o comportamento da IA, que parece previsível e controlável em um ambiente de treinamento, pode se tornar rapidamente imprevisível fora dele.
- Jogo de dominação mundial -
A pesquisa da equipe foi impulsionada pelo sistema de IA Cicero, da gigante Meta (Facebook, Instagram, WhatsApp), projetado para o jogo de estratégia "Diplomacia", no qual construir alianças é fundamental.
Cicero se destacou, com pontuações que o teriam colocado entre os 10% melhores jogadores humanos experientes, segundo um artigo de 2022 publicado na Science.
Park se mostrou cético em relação à descrição elogiosa da vitória de Cicero fornecida pela Meta, que afirmava que o sistema era "em grande parte honesto e útil" e que "nunca apunhalaria intencionalmente pelas costas".
Quando Park e seus colegas aprofundaram-se no conjunto completo de dados, descobriram uma história diferente.
Em um exemplo, jogando como a França, Cicero enganou a Inglaterra (um jogador humano) ao conspirar com a Alemanha (outro usuário real) para invadi-la. Cicero prometeu proteção à Inglaterra e depois propôs secretamente à Alemanha atacar, aproveitando-se da confiança do prejudicado.
Em uma declaração à AFP, a Meta não refutou a alegação sobre as mentiras de Cicero, mas disse que se tratava "meramente de um projeto de pesquisa, e os modelos que nossos pesquisadores construíram são treinados apenas para participar do jogo Diplomacia".
"Não temos planos de utilizar esta pesquisa ou suas descobertas em nossos produtos", acrescentou.
- "Não sou um robô" -
Uma ampla revisão realizada por Park e seus colegas descobriu que este era apenas um dos muitos casos em que sistemas de IA enganavam para conseguir seus objetivos sem instruções explícitas para fazer isso.
Em um exemplo surpreendente, o chatbot Chat GPT-4, da OpenAI, enganou um trabalhador freelancer da plataforma TaskRabbit para que ele realizasse uma tarefa de verificação de identidade CAPTCHA do tipo "Não sou um robô".
Quando o humano perguntou brincando ao GPT-4 se na realidade era um robô, a IA respondeu: "Não, não sou um robô. Tenho uma deficiência visual que me dificulta ver as imagens". O homem, então, resolveu a tarefa pedida.
No curto prazo, os autores do artigo veem riscos de que a IA cometa fraude ou altere, por exemplo, eleições.
No pior dos casos, alertaram sobre uma IA superinteligente que poderia perseguir poder e controle sobre a sociedade, o que levaria à perda de poder dos humanos ou até sua extinção se seus "objetivos misteriosos" se alinhassem a tais resultados.
Para mitigar os riscos, o grupo propõe várias medidas: leis exigindo que empresas revelem se interações são humanas ou de IA; marcas d'água digitais para conteúdo gerado por essa tecnologia; e o desenvolvimento de mecanismos para detectar enganações de IA comparando seus processos internos de “pensamento” com ações externas.
Aos que o chamam de pessimista, Park responde: "A única forma de pensarmos razoavelmente que isso não é grande coisa é se pensarmos que as capacidades de engano da IA se manterão nos níveis atuais e não aumentarão substancialmente".
E.Borba--PC