Um encontro inédito entre o papa Leão XIV e representantes da Anthropic ocorreu no Vaticano, com o intuito de discutir as questões éticas relacionadas à inteligência artificial (IA). Essa reunião coincidiu com a divulgação da primeira encíclica do pontífice, chamada Magnifica Humanitas, na qual ele expressou preocupações sobre o avanço da IA e a crescente concentração de poder nas mãos de grandes empresas tecnológicas.
Contexto do evento
O evento, realizado nas dependências do Vaticano, contou com a participação exclusiva de Christopher Olah, cofundador da Anthropic. Ele enfatizou que o progresso na área de IA não deve ser monopolizado por corporações. O papa defendeu que a tecnologia deve estar sujeita a “restrições éticas rigorosas”, especialmente no que diz respeito ao seu uso em aplicações militares.
Pontos principais destacados pela Anthropic
Olah ressaltou que os laboratórios de IA operam sob pressões e incentivos que podem conflitar com os interesses públicos. Mesmo pesquisadores bem-intencionados, segundo ele, podem ser afetados por pressões comerciais e geopolíticas. Essa realidade torna imperativa a necessidade de auditorias externas e um incremento na supervisão por parte de governos, líderes religiosos e entidades da sociedade civil.
O cofundador também se posicionou como um defensor das questões de segurança relacionadas à IA, mencionando sua experiência em discutir dilemas éticos com representantes de mais de 15 religiões. Ele alertou sobre o risco significativo de uma substituição em massa de empregos devido à tecnologia e destacou que, caso isso aconteça, será um dever moral apoiar aqueles afetados.
Além disso, Olah manifestou sua preocupação com os atuais avanços dos grandes modelos de linguagem (LLMs), citando o rápido desenvolvimento e os perigos associados a resultados inesperados. Ele afirmou que as decisões sobre essas questões não devem ser exclusividade dos especialistas técnicos.
Análise das repercussões políticas e históricas
Agradecendo a colaboração de Olah na busca por soluções para os desafios trazidos pela inteligência artificial, o papa sinalizou uma nova era de diálogo entre a Igreja e o setor empresarial. A historiadora Margaret O’Mara, da Universidade de Washington, destacou essa convergência histórica entre política, negócios e religião, fazendo referência à encíclica Rerum Novarum, emitida em 1891 por Leão XIII como resposta aos excessos da Revolução Industrial.
Imagem: Ap
A análise sugere que essa nova relação estabelecida em Roma pode acentuar o isolamento político da Anthropic em Washington. Nos Estados Unidos, críticos próximos à administração Trump acusam Dario Amodei, CEO da startup, de semear um temor desnecessário no público. O governo americano tem promovido um avanço acelerado da tecnologia para competir com a China, algo que entra em conflito com as restrições contratuais que a Anthropic impôs ao Pentágono para evitar que seus modelos — como o recém-lançado Mythos — sejam utilizados em sistemas de vigilância interna ou armamentos autônomos.
Com informações adicionais.
