Google restringió el acceso público su modelo de IA más potente: temen que se utilice para piratear bancos, hospitales y sistemas gubernamentales
Este miércoles el gigante de tecnología Google anunció la restricción al acceso público su modelo de inteligencia artificial más potente, y que solo lo liberará para un grupo selecto de expertos en ciberseguridad.
Según la empresa, esta decisión se tomó con el fin de evitar su uso indebido por parte de piratas informáticos.
"Para lanzar de forma segura capacidades de vanguardia a este nivel, se requiere un enfoque por fases", escribió Koray Kavukcuoglu, arquitecto jefe de IA de Google, en una publicación de blog donde anunciaba el modelo.
El anuncio se produjo apenas 24 horas después de que el presidente Donald Trump recibiera en la Casa Blanca a altos ejecutivos del sector tecnológico, entre ellos el director de Google, Sundar Pichai.
Tras esto, Google también declaró que concederá voluntariamente al gobierno estadounidense acceso anticipado al modelo y que recabará las opiniones de los usuarios que lo prueben antes de ponerlo a disposición del público en general.
Pero este no ha sido el primer caso de este tipo, pues Anthropic, rival de Google, ha mantenido su modelo más avanzado, Claude Mythos Preview, restringido a un pequeño número de organizaciones de confianza.
En junio, Washington obligó brevemente a Anthropic a suspender el acceso a sus modelos Claude Mythos y Claude Fable, que habían sido lanzados al público.
Los expertos en ciberseguridad temen que esta tecnología de vanguardia pueda utilizarse para piratear bancos, hospitales y sistemas gubernamentales.
Y es que no es para menos, pues el mismo Google confirmó que Argon destaca en tareas complejas de ingeniería de software, asuntos legales y financieros, y ciberdefensa, con una capacidad líder para encontrar y corregir fallos críticos de software.
Prueba de esto es que sus primeros usuarios que realizaron las pruebas utilizaron Argon para descubrir un fallo en el software utilizado por hospitales de todo el mundo que exponía información personal confidencial; algo que otros modelos avanzados no habían detectado.
Argon está diseñado para rechazar solicitudes que podrían ayudar a llevar a cabo ciberataques o a desarrollar armas químicas, biológicas o nucleares.
Anthropic y OpenAI, creador de ChatGPT, han incorporado medidas de seguridad similares en sus modelos más avanzados.
Google ha declarado que está supervisando el razonamiento del modelo para evitar que se desvíe de las intenciones de los usuarios, un riesgo que los investigadores denominan desalineación.