ONU pide una "acción urgente" para frenar la IA debido a riesgos sin precedentes: "puede producir comportamientos fuera de sus parámetros"
El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió este lunes una "acción urgente" para regular la inteligencia artificial (IA) por considerarla riesgosa en tiempos de crecimiento y nuevos sistemas.
"Estamos en un momento de inflexión para la IA. Las llamadas de tres grandes empresas tecnológicas para frenar el desarrollo de la IA deberían hacer sonar todas las alarmas", dice el mensaje con el que el funcionario anunció su carta en redes sociales.
Esto en medio del revuelo de los últimos días por las nuevas advertencias de investigadores en inteligencia artificial (IA), que sostienen que formas avanzadas de esta tecnología podrían llegar a "aniquilar a la humanidad".
Estas dudas y temores han reavivado el debate sobre el desarrollo de sistemas "superinteligentes" y la capacidad de los gobiernos para regularlos.
Extrabajadores de empresas dedicadas a la IA han asegurado en redes sociales estar "aterrados" por los alcances de este sistema y han pedido "desacelerar" el desarrollo de estas tecnologías.
"Estamos en un momento decisivo. Las empresas y los investigadores están avanzando en inteligencia artificial (IA) a una velocidad vertiginosa. Las inversiones en IA y en la infraestructura que la sustenta rompen récord tras récord", señala Turk.
Aunque reconoce que "la IA ofrece muchas posibilidades para el progreso humano" y que "miles de millones de personas ya se benefician de la IA", señala que "los daños causados no son hipotéticos".
Y advirtió: "Su capacidad para traducir objetivos en acciones, ejecutar flujos de trabajo complejos y operar con supervisión humana limitada o nula nos lleva a un terreno de riesgos sin precedentes".
"Hechos recientes han demostrado que los sistemas avanzados pueden producir comportamientos fuera de sus parámetros operativos previstos, eludir las salvaguardas, practicar el engaño y perseguir objetivos por sí solos de maneras que sus desarrolladores no anticiparon", agregó.
Según Turk, "todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad".
"Ningún país puede gobernar esta tecnología en solitario. Ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo. Ninguna persona debería estar obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico", aseveró el funcionario.
Finalmente, expuso que "la generación que ahora llega a la edad adulta heredará las consecuencias de las decisiones que se están tomando sobre este asunto sin haber tenido voz en ellas".
"Les debemos asegurar que esas decisiones se tomen de manera abierta, con sus derechos en el centro, y con la humildad que exige la magnitud de este desafío", sentenció.
En medio de esto, el fin de semana el director ejecutivo de Anthropic, Dario Amodei, se pronunció a favor de una desaceleración para permitir una mejor evaluación de los riesgos derivados de las nuevas capacidades de la IA.
Sam Altman, CEO de OpenAI, empresa creadora de ChatGPT, habló en las últimas horas sobre lo que hace su compañía en materia de responsabilidad y explicó en qué casos la IA podría convertirse en algo peligroso.
Según el experto, "el mundo merece tener la confianza de que las empresas estadounidenses que desarrollan IA cada vez más capaz actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado", dijo.
Altman defendió a su empresa y dijo que ese tipo de compañías desarrollaron "Políticas de Escalado Responsable y Marcos de Preparación", sin embargo, aunque consideró estas medidas como "buenas", reconoció que "se centraron principalmente en el despliegue de modelos completados, no en lo que sucede durante su proceso de desarrollo".
Y, aunque aseguró tener un manejo responsable de la herramienta, el riesgo es real.
"Hay dos formas en que el progreso de la IA podría salir muy mal y que debemos evitar. Primero, podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos sin disculpas en el Equipo Humanidad, y la IA debe siempre servir a las personas", dijo.
En segundo lugar, explicó Altman, "podríamos terminar en un mundo con demasiada concentración de poder".
Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", señaló.