Potencial IA genera detractores: ¿hay que ralentizar su desarrollo?

Un nuevo debate concentra la atención sobre el desarrollo de la Inteligencia Artificial en el mundo,con dos posturas: promoverlo,para convertir lo más rápido posible las oportunidades en beneficios directos para industrias y economías,o ralentizarlo,para evitar que sean más los daños asociados que las ventajas de su implementación en distintos ámbitos.

Marcar el ritmo

Dario Amodei,director Ejecutivo de Anthropic,consideró necesario establecer mecanismos para dosificar el desarrollo de IA de frontera,a partir de la incorporación de evaluadores independientes que puedan revisar la seguridad y alineación de los modelos. Su propuesta recibió respaldo público de Sam Altman,CEO de OpenAI; Elon Musk,en su rol de fundador de xAI; y Demis Hassabis,CEO de Google DeepMind.

“Estoy de acuerdo con Darío en que debemos medir el ritmo del desarrollo. Este ha sido un tema principal de discusiones que hemos tenido en OpenAI en las últimas semanas”,señaló Altman como muestra de la preocupación creciente en que los sistemas de Inteligencia Artificial adquieran mayores capacidades de autonomía al punto de dificultar su evaluación y control.

Coincidió con ellos la presidenta de la Comisión Europea,Ursula Von der Leyen,que en su discurso sobre el Estado de la Unión Europea,insistió en que “ha llegado el momento de poner freno a los modelos de automejora recursiva,de marcar el ritmo del desarrollo de la tecnología de vanguardia” como consecuencia de que los peligros de los modelos de automejora son cada vez más evidentes.

“Si quienes están desarrollando la tecnología lo tienen claro,nosotros también deberíamos tenerlo claro. La ley de Inteligencia Artificial es un elemento crucial para establecer salvaguardias y sitúa a Europa en una posición privilegiada para poder influir de forma decisiva en las iniciativas mundiales para hacer frente a esta situación. Reforzaremos nuestra colaboración con nuestros socios afines,como Canadá,Reino Unido y otros,queremos colaborar en la evaluación y verificación de los modelos,la alerta temprana,la seguridad de la IA y muchos aspectos más”,expuso.

Al cierre,Von der Leyen aseguró que invitará “a los principales laboratorios de vanguardia a un debate sobre cómo podemos apoyar los esfuerzos en curso de la industria para marcar el ritmo del desarrollo de la tecnología de vanguardia”.

En Estados Unidos,en tanto,el senador independiente Bernie Sanders y el estratega político Steve Bannon arremetieron contra la industria de IA,consignó Reuters; advirtieron sobre las posibles consecuencias nocivas de un avance sin control de la tecnología.

“La IA se ha utilizado por primera vez para crear nuevos virus. En las manos equivocadas,esto podría dar lugar a nuevas armas biológicas y a una posible pandemia mundial que podría causar la muerte de decenas de millones de personas”,señaló Sanders.

Bannon,por su parte,afirmó que el Congreso local no debería aprobar leyes que prohíban a los Estados establecer sus propias normas para esta tecnología. “Lo primero que debemos hacer es bajar el ritmo para poder comprender con exactitud lo que está sucediendo”,dijo.

Acelerar es liderar

El presidente de Estados Unidos,Donald Trump,relativizó las advertencias sobre los riesgos de la Inteligencia Artificial. “Lideramos. Somos el país más avanzado del mundo y,francamente,quiero que siga siéndolo,porque quien gane en IA ganará”,valoró tras considerar que hay “fuerzas negativas” contra el desarrollo de la tecnología que están poniendo sobre la mesa escenarios que no se convertirán en realidad. Para Trump, los potenciales riesgos no justifican detener la carrera tecnológica.

Mark Zuckerberg,fundador y CEO de Meta,también considera que innovar es el camino: “Hay mucho debate sobre ralentizar el progreso en capacidades hasta que la alineación alcance el ritmo. Mi opinión es que la confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos. Involucrar a evaluadores y asesores independientes es la mejor práctica de la industria”,indicó en su cuenta de X.

Argentina valoró la posición de Trump en palabras del embajador local en Estados Unidos,Alec Oxenford. “Sus declaraciones (las de Trump) reforzaron esa visión más amplia: los países que abrazan la IA,compiten e innovan darán forma al futuro. Aquellos que dudan corren el riesgo de quedarse atrás”,expuso para luego considerar que esta visión es otra muestra de “la poderosa convergencia entre Trump y Milei: ambos entienden que la respuesta a la disrupción tecnológica no es detener la innovación,sino liberarla,liderarla y gestionar sus riesgos sin permitir que el miedo paralice el progreso”.

En el mismo sentido se pronunció el ministro de Ciencia y TIC de Corea del Sur,Bae Kyung-hoon,quien afirmó en sus redes sociales que el país “no puede permitirse ralentizar” el desarrollo de IA. Agregó que “lo que necesita la IA no es control de velocidad,sino responsabilidad sobre la velocidad”.

Otra etapa

Así,tras una primera instancia de debate marcada por la fascinación del impacto prometido por la tecnología y una segunda,que aún está en desarrollo,en la que se revisa la necesidad de avanzar sobre reglas para un desarrollo de la Inteligencia Artificial sin contraindicaciones,ahora la lucha —al menos la discursiva— pasa por quienes defienden que es momento de acelerar y quienes prefieren poner un freno antes de que sea demasiado tarde. El debate,lejos de estar cerrado,promete encenderse a medida que los modelos de Inteligencia Artificial incorporen nuevas capacidades y aumenten su impacto sobre las economías,las industrias y la sociedad.