CEO de OpenAI, empresa creadora de ChatGPT, explicó las dos formas en las que "el progreso de la IA podría salir muy mal"
En los últimos días han surgido nuevas advertencias de investigadores en inteligencia artificial (IA), que sostienen que formas avanzadas de esta tecnología podrían llegar a "aniquilar a la humanidad".
Estas dudas y temores han reavivado el debate sobre el desarrollo de sistemas "superinteligentes" y la capacidad de los gobiernos para regularlos.
En medio de la incertidumbre, extrabajadores de empresas dedicadas a la IA han asegurado en redes sociales estar "aterrados" por los alcances de este sistema y han pedido "desacelerar" el desarrollo de estas tecnologías.
Ahora, una de las voces más importantes en este sector tecnológico rompió el silencio y explicó que es lo que hay detrás de las empresas más grandes de inteligencia artificial como OpenAI, Anthropic y Google.
Sam Altman, CEO de OpenAI, empresa creadora de ChatGPT, habló sobre lo que hace su compañía en materia de responsabilidad y explicó en qué casos la IA podría convertirse en algo peligroso.
Según el experto, "el mundo merece tener la confianza de que las empresas estadounidenses que desarrollan IA cada vez más capaz actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado", dijo.
Asimismo, explicó que "cada laboratorio de frontera debe cumplir con esto, y no hay razón por la que ninguno de nosotros deba ir a trabajar si no podemos hacerlo".
Altman defendió a su empresa y dijo que ese tipo de compañías desarrollaron "Políticas de Escalado Responsable y Marcos de Preparación", sin embargo, aunque consideró estas medidas como "buenas", reconoció que "se centraron principalmente en el despliegue de modelos completados, no en lo que sucede durante su proceso de desarrollo".
Es por esto que OpenAI ahora formula "casos de seguridad explícitos antes de las ejecuciones de aprendizaje por refuerzo de frontera que esperamos que aumenten significativamente la capacidad, además del trabajo de seguridad que hemos realizado durante mucho tiempo antes de los lanzamientos de modelos".
El CEO aclaró que, para él y su compañía, "ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia, ni permitir que las capacidades se adelanten al alineamiento y monitoreo".
Esto luego de que sectores políticos aseguraran que se debe detener el desarrollo de la IA o hasta prohibirla.
Los dos casos en los que la IA "podría salir muy mal", según Sam Altman:
El mandamás de OpenAI explicó que, aunque su empresa busca siempre "evitar" peligros relacionados con esta herramienta, el riesgo es real.
"Hay dos formas en que el progreso de la IA podría salir muy mal y que debemos evitar. Primero, podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos sin disculpas en el Equipo Humanidad, y la IA debe siempre servir a las personas", dijo.
Sin embargo, detalló que, para garantizar eso, "necesitamos formas de asegurar que las técnicas de alineación y seguridad se mantengan por delante del progreso en las capacidades de los modelos"
En segundo lugar, explica Altman, "podríamos terminar en un mundo con demasiada concentración de poder".
Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", señaló.
"Evitar estas dos amenazas requiere caminar por un angosto camino intermedio; por ejemplo, un país podría ganar demasiado poder. Otro ejemplo es un laboratorio terminando con demasiado poder", finalizó el experto.