|
o alguien frenaba, tenía que ser capaz de reaccionar a tiempo para evitar una catástrofe.
Curiosamente, al leer las declaraciones de los líderes de los grandes laboratorios de IA, como Anthropic u OpenAI, con respecto a frenar el desarrollo de la inteligencia artificial, me viene a la mente esa lección de mi padre. Por primera vez, en los 20 años que llevo dedicado a esta disciplina, tengo la impresión de que los creadores no están seguros de poder controlar esto que están creando y que, poco a poco, se están dando cuenta de que podría haber consecuencias catastróficas derivadas de lo que están construyendo.
La discusión estalló cuando Jacob Coxon escribió en X que renunciaba a Anthropic porque consideraba que había un riesgo real de que la inteligencia artificial terminara con la raza humana; de que, antes de que termine la década, los humanos fueran destruidos por la IA. Después de esto, los directores ejecutivos de Anthropic y OpenAI estuvieron de acuerdo en que debería existir una forma de ralentizar el desarrollo de estas herramientas cuando las medidas de seguridad no pudieran seguir el ritmo, con Demis Hassabis, CEO de Google DeepMind, concordando con ellos.
Desde entonces, durante la última semana he recibido llamadas y preguntas de colegas y amigos sobre si en realidad es posible este escenario catastrófico. Para tratar de dar una respuesta, realicé un ejercicio mental.
Pensemos que un agente de IA crea una cuenta de correo electrónico, dándose así una identidad digital. Una identidad digital que podría darle acceso a otros servicios a medida que mejoren sus capacidades. A partir de ahí, podría crear hilos en X o Facebook, o videos autogenerados en Instagram, para impulsar alguna agenda política en particular. Aún quedan algunas trabas que pueden impedir que la IA haga esto, pero son barreras digitales que podrían, en teoría, ser superadas a medida que estos modelos avancen.
Y ahí lo importante es entender la escala a la cual podría hacer esto. No estoy hablando de algún tipo de hackeo sofisticado; estoy hablando de ingeniería social, un fenómeno que ya existe hoy, pero a una escala nunca antes vista. La IA, en teoría, tiene en este momento la capacidad de generar, en cuestión de segundos, hilos falsos en redes sociales, acompañados de imágenes y videos.
A esto le podemos sumar otro factor: el uso de ingeniería social para robar datos personales. Con acceso a una cuenta de correo podría mandar millones de correos de phishing altamente sofisticados para obtener datos de tarjetas de crédito. Con esos datos podría realizar transacciones en el mundo real e incrementar su huella de acción en él. Podría reservar hoteles, comprar vuelos de avión u ordenar productos por Amazon; es decir, hacer uso de toda la infraestructura digital que hoy tenemos para extender esa huella hacia el mundo físico.
Y aquí entra algo crítico, porque, más allá de llenar tu casa de papel de baño, recordemos que una gran parte de los incidentes de ciberseguridad involucra, de una u otra forma, al factor humano. Es entonces cuando una IA podría obtener contraseñas para infraestructura crítica o para sistemas altamente confidenciales. Podríamos pensar incluso en planos o documentación técnica para la fabricación de armas.
Todos los elementos para que esto suceda existen ya, de una u otra forma, y me parece que este escenario podría convertirse en una realidad en un futuro cercano. También me parece que las personas al frente del desarrollo de estos laboratorios están comenzando a darse cuenta de las consecuencias de tener estos sistemas en el mundo real.
Dicho esto, veo entre idealista e inocente pensar que el desarrollo se va a detener súbitamente. Al igual que con las armas de destrucción masiva, estamos en un escenario en el que, si no lo hacen los laboratorios en Estados Unidos, quizá lo hagan los laboratorios en China. La tecnología para crear estos sistemas está al alcance de cualquier actor que disponga de miles de millones de dólares para la infraestructura de entrenamiento.
Es entonces cuando entramos en una especie de dilema del prisionero, en el que detenernos todos sería en beneficio de la humanidad, pero se necesita un solo actor que no lo haga para justificar que nadie lo haga.
Ahora bien, aún soy muy escéptico respecto de lo que comentan los líderes de la IA sobre la agencia que pudiera tener una inteligencia artificial; es decir, qué tipo de motivación podría tener un agente para crear todo este caos que describo. Sigo pensando que la IA carece de motivos o incentivos propios para hacer que la humanidad caiga en el caos.
Aunque quizás el problema no requiera de esos motivos. Podría surgir simplemente de una optimización excesiva de un objetivo y de las estrategias instrumentales que el sistema encuentre para alcanzarlo. Pensemos, por ejemplo, en China: una respuesta diseñada para contener el crecimiento de la población, la política de un solo hijo, terminó contribuyendo durante décadas a graves desequilibrios demográficos y a acelerar el envejecimiento de su población. Un sistema puede optimizar exitosamente una variable y, al mismo tiempo, producir consecuencias que nadie deseaba.
Sin embargo, sí pienso que actores maliciosos podrían usarla de la forma que describo y que, en este caso, posiblemente con IAs igual de poderosas podamos atenuar o defendernos del riesgo. Es por eso que siempre he defendido que cada país debe tener sus propios agentes y su propia infraestructura, de la misma forma que cada país tiene su propio ejército. Porque los países que no desarrollen capacidades propias quedarán a expensas de quienes sí las tengan.
Y es aquí donde, de manera honesta, digo que no sé. No sé si es posible que ya hayamos perdido el control del carro y simplemente no sepamos de dónde va a salir el siguiente obstáculo, o si ya vamos demasiado rápido para poder frenar. Quizás la IA ya tenga la capacidad de destruirnos y hayamos pasado el punto de no retorno, o quizás aún estemos a tiempo.
“Que vivas en tiempos interesantes”, dice una frase de origen incierto, y creo que, en realidad, estos son algunos de los tiempos más interesantes que nos han tocado vivir.
Fuente: EL FINANCIERO.
[Regresar a la página principal] |
