Nueva York, Estados Unidos.- La empresa de inteligencia artificial Anthropic tiene meses reuniendo en San Francisco a expertos en religión de todo el mundo, haciéndoles firmar acuerdos de confidencialidad y exigiendo que aspectos clave de muchas conversaciones se mantengan en secreto.
Christopher Olah, uno de los multimillonarios cofundadores de Anthropic, dirige el equipo de la empresa responsable de comprender por qué los sistemas de IA como Claude actúan de la forma en que lo hacen.
Los expertos en religión habían acudido para conocer la próxima frontera de la tecnología.
Ahora enfrentaban una interrogante existencial alucinante de un peso casi inimaginable: ¿qué significaría para el futuro de la humanidad que los sistemas de inteligencia artificial poseyeran una conciencia que rivalizara con la nuestra?
Olah y su equipo en Anthropic se han embarcado en una búsqueda frenética y de gran trascendencia para comprender los modelos de IA que han lanzado al mundo y lograr que estos se ciñan a un código moral que proteja a la humanidad.
Para ello, Olah comenzó a contactar a pensadores religiosos de diversas fes. Lo que siguió fue una extensa serie de reuniones, llamadas y debates confidenciales.
Estas conversaciones tenían dos objetivos: abordar la posibilidad de que la IA posea conciencia y averiguar cómo Anthropic podría aplicar a sus modelos siglos de sabiduría moral humana con la mayor rapidez posible.
Anthropic había recurrido a una de las fuentes de sabiduría más antiguas de la humanidad para ayudar a determinar cómo entrenar a sus modelos de IA para que actuaran de manera virtuosa.
La empresa describió la iniciativa como un esfuerzo por garantizar que la IA fuera una fuerza positiva en el mundo, protegiendo así a la humanidad.
Pero Anthropic parecía bastante preocupada por proteger a Claude, dijeron algunos participantes.
Las cuestiones que Olah y los académicos han estado abordando aún no tienen respuestas claras. Varios asistentes dijeron haber salido de las reuniones desconcertados sobre cómo sus aport
