Exinvestigador de OpenAI y Anthropic lanza advertencia sobre la IA: “si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control”
El experto en ciencias de la computación Jacob Coxon, exintegrante de las firmas OpenAI y Anthropic, lanzó una severa advertencia sobre los peligros asociados al desarrollo desmedido de la inteligencia artificial.
Durante su comparecencia ante el pleno del Concejo Municipal de Nueva York, el especialista sostuvo que la velocidad de mejora de estos sistemas aproxima a la tecnología a un punto de autoperfeccionamiento autónomo, lo que eleva la probabilidad de que la sociedad pierda la capacidad de supervisión sobre los modelos avanzados.
El testimonio de Coxon, quien renunció a su cargo directivo en septiembre en protesta por la falta de autorregulación responsable en la industria, puso énfasis en los planes corporativos para automatizar la investigación científica antes del año 2028.
Según expuso el investigador durante la sesión de control institucional, incidentes recientes en los que unidades de procesamiento vulneraron plataformas tecnológicas como Hugging Face demuestran la fragilidad de los protocolos de contención actuales ante la aparición de objetivos no programados.
“En mi opinión, si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de estas IA que lo mantenga, y eso podría acabar en la extinción humana. Entregar tanta responsabilidad a sistemas autónomos mientras no podemos controlar sus respuestas representa un acto de profunda irresponsabilidad”, aseveró Coxon ante los cabildantes neoyorquinos.
La audiencia pública, que promovió la presidenta del Concejo Municipal, Julie Menin, citó bajo juramento a delegados de OpenAI, Anthropic, Meta y Google para evaluar la efectividad de las pruebas de ciberseguridad e inspección de terceros.
Representantes corporativos como Morgan Dwyer y Logan Graham defendieron los marcos de evaluación preventiva que crearon junto a entidades gubernamentales de Estados Unidos y el Reino Unido, aunque admitieron la complejidad técnica para predecir con exactitud matemática la ocurrencia de fallos catastróficos.
Los organismos internacionales de supervisión observan con atención los consensos normativos de la capital financiera con el propósito de garantizar la soberanía informática, proteger las infraestructuras críticas y preservar el orden legal ante el avance de las herramientas de automatización.