Russell testifica en juicio OpenAI sobre riesgo de AGI

Stuart Russell declaró como único perito técnico de Elon Musk en el juicio contra OpenAI. El profesor de la Universidad de California en Berkeley testificó sobre los peligros de la inteligencia artificial general (AGI) y la tensión entre su desarrollo y la seguridad.

Testigo clave sobre riesgos de la IA

Russell, que firmó una carta en marzo de 2023 pidiendo una pausa en la investigación, afirmó ante el juez que existen riesgos como ciberamenazas, problemas de desalineación y la naturaleza de «el ganador se lo lleva todo» en la carrera por la AGI. Su testimonio quedó limitado por objeciones de los abogados de OpenAI.

Carrera armamentística global

El perito criticó la dinámica de carrera armamentística entre laboratorios que compiten por la AGI. Dijo que existe una tensión fundamental entre el avance hacia la AGI y la seguridad. La defensa de OpenAI señaló que Russell no evaluaba directamente su estructura corporativa ni sus políticas de seguridad.

Origen del conflicto en OpenAI

Los fundadores de OpenAI advirtieron sobre los riesgos de la IA mientras buscaban capital de inversores para obtener la potencia de cálculo necesaria. El miedo a que una sola organización controlara la AGI llevó a la búsqueda de fondos que dividió al equipo y desembocó en el actual litigio.

Repercusiones del juicio

El caso refleja una contradicción: los líderes tecnológicos advierten sobre la IA mientras aceleran su desarrollo. El tribunal debe decidir qué parte de los argumentos de Musk y Altman tomar en serio, mientras que iniciativas como la moratoria de centros de datos del senador Sanders muestran que el debate trasciende el ámbito judicial.