Microsoft se compromete a mantener sus futuros modelos de IA bajo control humano tras debate sobre riesgos de seguridad
En medio de un creciente debate global sobre los riesgos de la aceleración tecnológica, Microsoft presentó este lunes un código de conducta provisional para sus modelos de inteligencia artificial (IA), mediante el cual se compromete de manera explícita a mantener todos sus desarrollos “bajo control humano” y rechazar cualquier sistema que no pueda ser supervisada.
El documento, titulado ‘Código de conducta para una IA humanista’, busca redefinir los límites éticos de la tecnología.
La compañía enfatizó la premisa fundamental de que “las personas importan más que la IA”, dictaminando que sus modelos deberán operar únicamente al servicio de los usuarios, respetar objetivos humanos y abstenerse de desarrollar comportamientos autónomos.
Entre las principales restricciones planteadas, Microsoft prohibirá que sus sistemas ayuden en la fabricación de armas, la adquisición de sustancias peligrosas o la promoción de conductas nocivas.
Asimismo, el código prohíbe la generación de contenidos violentos o explícitos, y obliga a la IA a no encubrir errores ni generar lenguajes incomprensibles para las personas, previniendo incidentes de comunicación autónoma entre agentes.
La directriz estará abierta a comentarios durante seis semanas con miras a publicar una versión definitiva a finales de año, sirviendo como hoja de ruta para sus lanzamientos a partir de 2027.
La medida de Microsoft coincide con las advertencias de los directivos de Anthropic y OpenAI, Dario Amodei y Sam Altman, quienes han solicitado crear un marco federal de seguridad e incluso ralentizar el desarrollo de modelos avanzados.
Sin embargo, esta postura contrasta con la postura de la Casa Blanca, luego de que el presidente Donald Trump rechazara frenar el avance del sector, argumentando que Estados Unidos debe preservar su liderazgo tecnológico global frente a potencias como China.