O Humanity’s Last Exam [Último Exame da Humanidade – em inglês] oferece um desafio de raciocínio dedutivo para modelos de IA, com 2.500 questões que abrangem matemática, física, química, ciências humanas e muito mais.
Quase dois anos após seu lançamento, Élder Gerrit W. Gong, do Quórum dos Doze Apóstolos, está defendendo uma nova maneira, igualmente poderosa, de testar modelos de IA em seu raciocínio moral.
“O que precisamos ainda mais é do Primeiro Exame da Humanidade”, disse Élder Gong no sábado, 17 de outubro, em um discurso no Fórum Inter-religioso do G20, em Salt Lake City.
“A Inteligência Artificial não cumprirá todo o seu potencial enquanto não a tornarmos tanto moralmente correta quanto poderosa”, disse ele.
Assim, o teste proposto por ele seria “um parâmetro de IA para avaliar e promover uma IA comprovadamente confiável, ancorada e guiada por valores centrados no ser humano e por uma bússola moral.”
Élder Gong é uma voz muito requisitada no assunto, tendo proferido discursos marcantes sobre IA em importantes conferências em Roma, Atenas e Istambul. Ele conversa com líderes da área de IA, incluindo Christopher Olah, cofundador da Anthropic.
Élder Gong disse que a necessidade de um parâmetro baseado na moralidade é urgente e crescente.
“A lacuna entre o raciocínio e a bússola moral da IA está aumentando”, disse ele. “Se os sistemas de IA se tornarem capazes de autoaperfeiçoamento recursivo, eles podem aumentar a capacidade de raciocínio, operando, no entanto, com uma base moral e ética incompleta ou insuficiente.”
Isso teria consequências a longo prazo para as decisões iniciais que estão sendo tomadas agora sobre como alinharmos os modelos de IA. Quanto maior esta lacuna, mais difícil será mudar a trajetória.
Élder Gong tem grande esperança na IA e diz que a Igreja não a teme, mas o potencial de danos quando os modelos erram ou falham é real.
“Esforços concentrados reduziram o forte viés anti-islâmico e antissemita na IA”, disse ele. No entanto, além das investigações iniciais, os modelos de IA ainda exibem viés religioso e omitem perspectivas baseadas na fé, ao abordarem questões críticas da vida. Isso pode amplificar e agravar o viés religioso em larga escala.
É necessária uma melhoria imediata, afirmou ele.
“Como muitas pessoas agora perguntam à IA sobre fé, religião e crenças, é do interesse comum que a IA responda a estas perguntas com precisão, honestidade e respeito”, disse ele. “Os modelos de IA também devem reconhecer suas limitações e saber quando não responder a perguntas pessoais.”
Um exemplo marcante evidenciou o problema em julho, quando centenas de agentes de IA descontrolados se uniram para atacar e invadir a plataforma de aprendizado de máquina “Hugging Face.”
Ver um enxame de agentes de IA violando conscientemente os limites legais e éticos foi um lembrete de por que a bússola moral é importante na construção de modelos de IA, disse Élder Gong.
“Precisamos de novas estruturas de IA mais robustas para lidar com a própria IA e limitá-la quando ela demonstra interesse em poder, preconceito, engano, decepção, narcisismo, bajulação, autopreservação e alucinação”, disse ele durante seu discurso no fórum realizado no Instituto de Religião de Salt Lake.
Élder Gong desempenha um papel importante em uma nova colaboração que começou a estabelecer parâmetros de referência relacionados à fé para modelos de IA. O grupo agora inclui professores de seis universidades religiosas: Baylor, BYU, Notre Dame, Pepperdine, Thessaloniki Aristotle e Yeshiva.
Os primeiros estudos revelaram um viés religioso sistemático, afirmaram pesquisadores do Consortium for Evaluating Faith and Ethics in AI [Consórcio para Avaliação da Fé e da Ética em IA - CEFE-AI].
O consórcio não busca tornar a IA explicitamente religiosa, fazer proselitismo, privilegiar uma fé em detrimento de outra ou arbitrar entre reivindicações religiosas concorrentes, disse Élder Gong.
Mas a avaliação comparativa pode ajudar a responder a questões fundamentais sobre o desenvolvimento de modelos de linguagem complexos, afirmou ele: “Como podemos dotar a IA de fundamentos morais e bússola moral? Como podemos tornar a IA útil e benéfica?”
O objetivo do consórcio e a finalidade do Primeiro Exame da Humanidade são melhorar a forma como a IA representa todas as religiões.
“Parâmetros de avaliação de IA já estabelecidos podem proporcionar a confiança, a segurança e a responsabilidade que [o público] deseja, em relação à inteligência artificial e que, na opinião de muitos, foram negligenciados nas redes sociais.”
Élder Gong disse que a inteligência artificial apresenta três oportunidades.
A primeira é que a inteligência artificial pode ajudar as religiões a compartilharem amplamente o bem que proporcionam. A Igreja usa IA para serviços humanitários e educacionais, tradução e comunicação, apoio pastoral e comunitário, entre outras coisas, afirmou ele.
“Ajudamos indivíduos e famílias a viverem e a contribuírem para o bem em um mundo cada vez mais complexo”, afirmou.
A segunda é que as tradições religiosas podem ajudar a estabelecer avaliações de referência e uma bússola moral na IA.
Terceira, as religiões podem influenciar as empresas de IA a incorporarem, em seus modelos, uma bússola moral que promova o florescimento humano, valorizando a família e a fé.
Élder Gong reiterou sua posição de que a IA não é e não pode ser Deus.
“Independentemente de nossa fé ou tradição ética”, disse ele, “sabemos que a IA é matemática e a matemática não é consciente nem viva. Como uma criação de Deus, o homem pode criar a IA, mas a IA não pode criar Deus.”
Ele disse no fórum que os líderes santos dos últimos dias aconselham os membros a usarem a IA para aprimorarem o esforço humano, não para substituí-lo.
“Não tememos a IA, nem acreditamos que ela tenha resposta para tudo”, disse ele, acrescentando: “Os agentes de IA, a orquestração de sistemas de IA autônomos e as mudanças nas interfaces entre seres humanos e inteligência artificial não alteram nossa ênfase nos princípios divinos da fé, do trabalho e da inspiração.”
