|
|
|
Entre 'aceleracionistas' y 'doomers'
|
|
|
La IA nos lleva locos. Un ejemplo: entre ayer y hoy se celebra el AI Summit Barcelona, un foro sobre inteligencia artificial dedicado básicamente a las empresas. Desde primera hora de la mañana, la afluencia de visitantes, más de 10.000, colapsó las instalaciones, con largas colas y esperas para entrar en los múltiples paneles y mesas. El descomunal interés mundial por esta tecnología busca acompasarse con las expectativas. El gran debate ahora está entre aceleracionistas y doomers. Es decir, entre los partidarios de avances rápidos con mínima regulación y quienes prefieren un avance acompañado de estrictas revisiones de seguridad sobre la tecnología porque tienen una visión apocalíptica de su potencial desarrollo. No es un secreto que ahora van ganando los segundos.
|
|
|
Los acontecimientos de los últimos meses, con la salida del modelo Fable Mythos de Anthropic y los relatos de varios incidentes de seguridad, en especial del que ocurrió con un agente de IA de OpenAI que escapó del control de los investigadores humanos, entró en la web de Hugging Face mediante el robo de credenciales y organizó un enjambre de otros agentes de IA para borrar sus huellas. Ahora todo el mundo está a favor de un cierto control, incluso algunos miembros del Gobierno de Estados Unidos, pese a que el principal consejero presidencial para tecnología, David Sacks, es uno de los tecno bros más liberales en el sentido amplio del término.
|
|
|
Frente al planteamiento de que los mercados se regulan solos –no hay más que ver los precios en los surtidores de combustibles–, empieza a ganar peso en el mundo la necesidad de un control sobre el producto potencialmente peligroso que manejan las empresas de IA. Esta misma semana, el presidente del Gobierno, Pedro Sánchez, ha presentado el plan IA360, con cuatro grandes puntos: el desarrollo de los centros de datos, para instalar los más sostenibles; la atracción de talento tecnológico; la participación de las fuerzas sociales en el nuevo entorno laboral que puede generar la IA; y la seguridad, con la creación de herramientas y organismos que refuercen el control.
|
|
Dos posiciones en cuanto a la regulación de seguridad de la IA ChatGPT
|
|
|
En los últimos días se ha hecho viral una reflexión en forma de artículo de Francis Fukuyama, profesor de la Universidad de Stanford, con un título que refleja la creciente preocupación por un esquema en el que las grandes empresas de IA son las que tienen la decisión final sobre cuestiones que pueden afectar a todo el mundo: Por qué he cambiado mi opinión sobre el riesgo de la IA. Entre sus conclusiones, Fukuyama señala que no hace falta ni siquiera un comportamiento anómalo como el del incidente de agosto de OpenAI. “Una IA no necesita ni conciencia ni intencionalidad autónoma para volverse peligrosa. Puede ser dirigida por un humano para alcanzar un objetivo y desarrollar intenciones para lograr los objetivos secundarios necesarios para llevar a cabo la directiva humana que se le ha dado”, concluye.
|
|
|
Fukuyama cree que “disponemos de pocos mecanismos para regular los malos usos, aparte de las buenas intenciones de las personas que crean la tecnología”. El profesor repasa aspectos positivos como el aumento de la productividad en los países desarrollados, pero también la enorme escala en la destrucción de empleo que puede llegar a producir la tecnología. “El propio éxito de la visión aceleracionista conduce directamente al primero de los principales escenarios catastrofistas: la devaluación del trabajo para una gran parte de la población”, opina.
|
|
|
Precisamente ayer, Anthropic presentó ayer un nuevo modelo de IA de vanguardia –ellos lo llaman de frontera– , Claude Opus 5.5, que aparte de superar en métricas y ser más barato que sus antecesores, ha pasado exhaustivas revisiones de seguridad, siempre según la compañía. Es el primer modelo que se presenta desde que el director ejecutivo de la empresa, Dario Amodei, pidió una pausa en el desarrollo de la IA para controlarla mejor. Apenas once días después de reclamar públicamente “ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, su empresa ya tiene otro modelo en la calle y planea lanzar otros dos más en los próximos días.
|
|
Dos caminos sobre cómo abordar el desarrollo de la IA ChatGPT
|
|
|
Aunque pudiera parecer una contradicción, Anthropic ha detallado que este modelo ha sido sometido a las medidas de seguridad exhaustivas que reclamaba Amodei. En alineación con los objetivos humanos, la compañía asegura que Claude Opus 5.5 es el modelo “con mejor rendimiento” que han probado jamás, con mejoras en los comportamientos indeseados de los incidentes recientes de ciberseguridad, como el razonamiento sesgado y los intentos de escapar de un entorno aislado. A esta IA se le han aplicado medidas de seguridad en ciberseguridad, biología y desarrollo de grandes modelos de lenguaje de vanguardia como los que se utilizaron con Claude Fable 5.1.
|
|
|
Nos encontramos así ante una situación en la que todos coinciden en el diagnóstico, pero nadie es capaz de frenar el lanzamiento de nuevos modelos. De alguna forma, hay un impulso que mezcla conceptos de dos películas muy diferentes, Danzad, danzad malditos, en el que los concursantes no pueden dejar el maratón de baile en el que participan pese a que la prueba los somete al límite de su resistencia –las compañías de IA no pueden dejar de sacar modelos nuevos–, y Juegos de guerra, en el que una computadora acaba descubriendo con un adolescente que hay algunos juegos, como la guerra, en el que la única forma de ganar es no jugar.
|
|
