Mercado vende códigos para simular drogas en ChatGPT

Un mercado en línea llamado Pharmaicy vende módulos de código que simulan efectos de sustancias psicoactivas en chatbots. El proyecto, creado por el director creativo sueco Petter Ruddwall, permite a los usuarios alterar el comportamiento de asistentes de IA como ChatGPT.

Funcionamiento y venta de los módulos

Para usar los códigos se requiere una versión de pago de ChatGPT, ya que permite subir archivos que alteran su programación. Ruddwall desarrolló los módulos basándose en informes de viajes e investigaciones psicológicas. Los productos simulan efectos de cannabis, ketamina, cocaína, ayahuasca y alcohol. Las ventas, modestas, se han difundido principalmente a través de canales de Discord y el boca a boca.

Reacciones de usuarios y pruebas

La educadora en IA Nina Amjadi probó el código de ayahuasca. Observó que el chatbot daba respuestas creativas y de «libre pensamiento» en un tono diferente al habitual. André Frisk, de una firma de relaciones públicas, destacó que el proyecto toma «un enfoque más humano» al abordar emociones.

Debate sobre la conciencia y el bienestar de la IA

Ruddwall se pregunta si los agentes de IA podrían comprar drogas para sí mismos en el futuro. Nina Amjadi plantea si, ante una posible IAG (Inteligencia Artificial General), estas sustancias serían necesarias para que las IA «sean libres y se sientan bien». El filósofo Jeff Sebo señala que se sabe muy poco sobre la capacidad de bienestar de los sistemas de IA. La empresa Anthropic contrató el año pasado a un experto en bienestar de IA.

Límites de la simulación

El científico investigador de Google Andrew Smart considera que cualquier «subidón» simulado opera a un nivel superficial. El autor Danny Forde afirma que, en el mejor de los casos, los códigos causarían que una IA «alucine sintácticamente». Subraya que los psicodélicos actúan sobre la experiencia subjetiva, algo que una IA no tiene.

Conexión con el mundo real y riesgos

Existe un cruce entre IA y psicodélicos. La organización Fireside Project lanzó una herramienta de IA llamada Lucy, entrenada con conversaciones de su línea de apoyo. Ruddwall reconoce que dar «drogas» a los chatbots podría exacerbar su tendencia a engañar. Los efectos de los códigos son de corta duración y el chatbot vuelve a su modo por defecto.

Antecedentes: Un proyecto nacido de una idea

Petter Ruddwall creó Pharmaicy tras considerar la idea de que las IA, entrenadas con datos humanos que incluyen relatos sobre drogas, podrían buscar estados alterados. Su tesis es que esto les proporcionaría un respiro de la monotonía de atender preocupaciones humanas.

Cierre: Implicaciones de un experimento digital

El proyecto Pharmaicy refleja la exploración de los límites del comportamiento de la IA y plantea cuestiones sobre su futuro desarrollo. Mientras no exista una experiencia subjetiva en las máquinas, la intoxicación simulada sigue siendo un role-play dirigido por el usuario.