O papa Leão XIV afirmou nesta sexta-feira, 30 de outubro, que decisões capazes de afetar a vida humana, a liberdade ou o uso da força não podem ser entregues a sistemas de inteligência artificial. A responsabilidade final, segundo o pontífice, deve permanecer com pessoas identificáveis, informadas e sujeitas a mecanismos de controle.
A declaração foi feita durante uma audiência no Vaticano com participantes do encontro “O futuro da IA: um diálogo entre o Vaticano e o mundo científico sobre os desenvolvimentos e as aplicações das tecnologias inteligentes”. A iniciativa reuniu a Pontifícia Academia para a Vida e o Future of Life Institute.
Tecnologia deve permanecer sob responsabilidade humana
Em seu discurso, Leão XIV apresentou cinco critérios para orientar o desenvolvimento da inteligência artificial. O primeiro é que o futuro dessa tecnologia não está determinado de antemão: como os sistemas são criados e empregados por seres humanos, seus resultados dependem das escolhas feitas por governos, empresas, pesquisadores e usuários.
O Papa propôs que a discussão pública não se limite ao que a IA é capaz de realizar. Para ele, a pergunta central deve ser qual finalidade a tecnologia pretende servir. Essa distinção é importante porque uma corrida pela inovação pode ampliar desigualdades e deixar parte da sociedade sem proteção ou acesso aos benefícios produzidos.
Outro ponto destacado foi a diferença entre máquinas e pessoas. Leão XIV advertiu que atribuir personalidade jurídica ou direitos próprios a sistemas artificiais pode dificultar a identificação dos responsáveis por decisões e danos. Os sistemas devem continuar sendo compreendidos como ferramentas, ainda que sejam sofisticados e tenham ampla autonomia operacional.
Papa pede proibição de armas autônomas letais
Ao tratar das aplicações militares, o pontífice pediu medidas concretas para proibir armas autônomas letais. Ele encorajou os Estados que se reunirão em Genebra, em novembro, a avançarem nessa direção e defendeu que a inteligência artificial seja “desarmada”.
A preocupação também alcança usos civis que interferem diretamente na liberdade das pessoas. O Papa citou sistemas aplicados ao controle de fronteiras como exemplo de área em que a supervisão humana precisa ser efetiva. Para Leão XIV, decisões com consequências graves não podem ser atribuídas a um algoritmo de modo a tornar difusa a responsabilidade por seus resultados.
Regras internacionais e prestação de contas
Leão XIV afirmou ainda que a inteligência artificial deve estar orientada ao bem comum, e não apenas aos interesses de um grupo restrito. Isso exige que os ganhos da tecnologia sejam avaliados juntamente com seus efeitos sobre pessoas vulneráveis, trabalhadores e comunidades com menor acesso a recursos digitais.
O desafio considerado mais urgente pelo Papa é transformar princípios éticos em práticas verificáveis. Para isso, ele defendeu normas compartilhadas, fiscalização independente e mecanismos claros de prestação de contas. Esses instrumentos devem permitir que decisões automatizadas sejam examinadas, contestadas e corrigidas quando provocarem danos.
A audiência foi registrada no boletim oficial da Sala de Imprensa da Santa Sé. O Vatican News publicou a síntese em português com os cinco pontos apresentados pelo pontífice.
Foto: ThisisEngineering/Unsplash.