OpenAI financia la investigación sobre la moralidad de la inteligencia artificial

OpenAI invierte un millón de dólares en una investigación en la Universidad de Duke, que tiene como objetivo crear algoritmos capaces de predecir los juicios morales de las personas. El equipo bajo la dirección del profesor de ética Walter Sinnott-Armstrong intentará enseñar a la inteligencia artificial a tomar decisiones en situaciones éticamente complejas en medicina, derecho y también negocios.

La inteligencia artificial como brújula moral para la humanidad

Investigadores de la Universidad de Duke ya han creado anteriormente un algoritmo con orientación moral para la toma de decisiones sobre los receptores de trasplantes de riñón. Sin embargo, su visión ahora se enfoca en crear una especie de brújula moral que ayude a las personas en decisiones éticas complejas. Pero, ¿es siquiera posible enseñar a una máquina a comprender la moralidad humana?

La historia nos advierte. En 2021, el Instituto Allen desarrolló la herramienta Ask Delphi, que buscaba proporcionar recomendaciones éticas. Pudo juzgar correctamente que hacer trampa en un examen es malo, pero bastaba con reformular la pregunta para que el sistema comenzara a avalar incluso conductas abiertamente poco éticas. ¿La razón? Los sistemas de IA son esencialmente máquinas estadísticas sin una comprensión genuina de la ética.

Parcialidad occidental en la moral digital

Los sistemas de IA actuales son entrenados principalmente con datos del mundo occidental, lo que conduce a una visión unidireccional de la moralidad. Así, los sistemas a menudo reproducen los valores de la sociedad occidental, educada e industrializada, mientras que se descuidan otras perspectivas culturales.

Además, cada algoritmo aprende a partir de diferentes datos. Esto también se refleja en juicios controvertidos, por ejemplo, cuando Delphi clasificó la heterosexualidad como moralmente más aceptable que la homosexualidad. Otros sistemas de IA también mantienen posturas filosóficas distintas.

Por ejemplo, Claude se inclina hacia el absolutismo kantiano, mientras que ChatGPT se inclina hacia el utilitarismo. Todo parece indicar que será verdaderamente difícil crear un algoritmo moral universal, cuando incluso los propios filósofos han debatido sobre teorías éticas durante miles de años.