Inteligencia artificial: Modelos del lenguaje como arma geopolítica
Los modelos del lenguaje han surgido como una de las tecnologías más disruptivas de nuestra era. Utilizando técnicas de "deep learning", estos modelos son capaces de imitar la forma en que los humanos utilizan el lenguaje natural.
Desde su creación, estos modelos han sido utilizados en una gran variedad de aplicaciones, desde asistentes virtuales hasta sistemas de traducción automática. Sin embargo, a medida que estos modelos se han vuelto más sofisticados, también han surgido preocupaciones en torno a los riesgos que plantean para la seguridad nacional y la geopolítica.
Por qué Stephen Hawking tenía miedo del avance de la inteligencia artificial I Por Renato Silva https://t.co/IpijBVU4I3
— infobae (@infobae) May 4, 2023
El primero de estos riesgos es el poder de los modelos del lenguaje para influir en la opinión pública. Con la creciente popularidad de las redes sociales y la polarización política, los modelos del lenguaje se han convertido en herramientas poderosas de manipulación. Por ejemplo, estos modelos pueden ser utilizados para crear perfiles falsos en las redes sociales y difundir propaganda con el objetivo de influir en las elecciones y otros procesos políticos.
Además, los modelos pueden ser utilizados para crear bots que interactúen con los usuarios en las redes sociales, lo que puede hacer que parezca que hay un consenso sobre un tema cuando en realidad no lo hay. Estos bots tienen la capacidad de generar contenido de manera automática con una velocidad muy superior a la de los humanos, lo cual puede ser determinante en la batalla por el relato.
Otro riesgo importante es la posibilidad de que los modelos del lenguaje sean utilizados para la vigilancia masiva y el espionaje. Dado que estos modelos pueden analizar grandes cantidades de datos de texto, pueden ser utilizados para identificar patrones de comportamiento y hacer predicciones sobre las acciones futuras de las personas.
Esto puede ser particularmente preocupante en el contexto de la vigilancia gubernamental, ya que los modelos del lenguaje pueden ser utilizados para identificar a individuos que puedan ser considerados como una amenaza para la seguridad nacional.
Prepárate para disfrutar los beneficios de la #InteligenciaArtificial https://t.co/OlLDJaBVbs
— Nosotras (@NosotrasMx_) May 3, 2023
Además, los modelos del lenguaje también plantean preocupaciones en torno a la privacidad de los datos. La mayoría requieren grandes cantidades de datos para entrenar, lo que significa que los datos personales pueden ser recopilados y utilizados sin el conocimiento o el consentimiento de los individuos, lo que pondría en peligro su privacidad.
Por último, los modelos del lenguaje pueden ser determinantes en el campo de la ciberseguridad. Estos modelos son altamente complejos y requieren una gran cantidad de recursos computacionales, por lo tanto, pueden ser vulnerables a los ataques informáticos. Asimismo, pueden ser entrenados para generar malware o ataques de tipo phishing efectivos a gran escala.
De hecho, parte de este artículo ha sido inspirado utilizando la famosa herramienta ChatGPT. Esta herramienta ha sido creada por la empresa OpenAI, en la que Microsoft ha invertido unos 10.000 millones de dólares recientemente. Esta herramienta utiliza el algoritmo GPT-4 (generative pretrained transformer), el cual está implementado con una architectura de redes neuronales que se ha mostrado muy efectiva en los últimos años.
Tanto es así, que más de 10.000 personas han firmado una carta abierta en Internet que pide a "todos los laboratorios de IA que suspendan inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que la GPT-4”. Dicha carta está firmada por figuras muy relevantes del mundo científico y tecnológico como Elon Musk, Yuval Noah Harari, Joshua Bengio y Max Tegmark.
Europa planea poner coto a la inteligencia artificial: "Tiene que ser segura y fiable".
— El Confidencial (@elconfidencial) April 17, 2023
Los responsables de la futura ley de inteligencia artificial van a publicar una carta en la que muestran su preocupación por herramientas como ChatGPThttps://t.co/zoaLbvLerO
Thierry Breton, Comisario Europeo de Mercado Interior, declaró a Reuters que el repentino aumento de la popularidad de aplicaciones como ChatGPT y los riesgos asociados subrayan la urgente necesidad de establecer normas. Italia llego a prohibir el uso ChatGPT por infringir el GDPR.
La regulación de la inteligencia artificial es un tema polémico, y existen buenos argumentos tanto a favor como en contra. A continuación, se presentan algunos argumentos que podrían utilizarse para evitar su regulación:
- La innovación tecnológica: La regulación podría desalentar la innovación en el campo de la inteligencia artificial. Las empresas que desarrollan tecnologías innovadoras necesitan un ambiente regulatorio flexible para poder experimentar y desarrollar nuevas soluciones.
- Competitividad: Si en un país o región se imponen regulaciones demasiado restrictivas, podría perder competitividad frente a otros países que no las tengan. Esto podría llevar a la fuga de talentos y empresas hacia lugares con menor regulación. Esto es un factor crítico teniendo en cuenta la lucha actual por la hegemonía del planeta entre EEUU y China.
- Complejidad: La regulación de la inteligencia artificial es un tema complejo, ya que abarca diversas áreas del conocimiento, desde la filosofía hasta la tecnología. Sería difícil diseñar una regulación que cubra todas las posibles situaciones y contextos en los que se use la inteligencia artificial.
- Desarrollo económico: La regulación podría afectar negativamente el desarrollo económico de un país o región. La inteligencia artificial tiene el potencial de generar importantes beneficios económicos, y una regulación demasiado restrictiva podría frenar el crecimiento económico.
La inteligencia artificial es una tecnología disruptiva con capacidad de mejorar nuestra calidad de vida en dimensiones no imaginables a día de hoy. Sin embargo, puede generar unos riesgos no vistos desde el desarrollo de la bomba nuclear. La cooperación internacional es necesaria, pero parece difícil en un entorno geopolítico multipolar donde tener la ventaja competitiva en este tipo de tecnología puede ser un factor determinante en el balance de poder entre los estados y corporaciones.