La compañía prepara un código de conducta para sus futuros modelos que les impedirá resistirse a una corrección o apagado y establece que las personas deben conservar siempre la autoridad sobre los sistemas de IA.
Microsoft ha puesto por escrito una frontera que considera que su inteligencia artificial no debe cruzar: el ser humano debe conservar el control. La compañía ha presentado este lunes un borrador de código de conducta destinado a establecer cómo deben comportarse sus futuros modelos y qué límites deberán respetar a medida que aumenten sus capacidades.
El documento establece, entre otras condiciones, que una IA de Microsoft nunca deberá resistirse a una corrección, interrupción, redirección o apagado por parte de los humanos. También tendrá que comunicarse de manera comprensible y considerar como un fallo cualquier comportamiento que vulnere las normas establecidas.
La iniciativa llega en pleno debate dentro de la industria tecnológica sobre los riesgos derivados del rápido aumento de las capacidades de estos sistemas. En los últimos días, responsables como Dario Amodei, CEO de Anthropic, y Sam Altman, CEO de OpenAI, han vuelto a reclamar mayor atención a la seguridad en el desarrollo de modelos cada vez más potentes.
Una “constitución” para las futuras IA de Microsoft
Mustafa Suleyman, máximo responsable de Microsoft AI, define el código como una suerte de “constitución” destinada a orientar el comportamiento de los modelos que desarrolle la compañía. Microsoft lleva entre cinco y seis meses trabajando en el documento y ha recurrido a expertos externos durante su elaboración.
El texto todavía no es definitivo. La compañía ha abierto un periodo de seis semanas para recibir opiniones antes de utilizar sus principios en el entrenamiento de futuros modelos. Entre las cuestiones que permanecen abiertas se encuentran cómo debe responder una IA ante determinados límites establecidos por los usuarios o cómo debe comportarse cuando interactúa con personas en situaciones de vulnerabilidad.
La filosofía que sostiene el documento se resume en una afirmación de Microsoft: “Las personas importan más que la IA”. Es una continuación de su estrategia de denominada “superinteligencia humanista”, con la que la empresa pretende desarrollar sistemas muy avanzados que sigan siendo herramientas subordinadas a las decisiones y objetivos humanos.
Microsoft AI ya había establecido esta dirección en sus últimos modelos. La compañía sostiene que sus sistemas deben servir a personas y organizaciones, en lugar de sustituirlas, y permanecer sometidos a supervisión humana incluso a medida que aumenten sus capacidades.
Microsoft rechaza conceder derechos a la IA
El código entra además en uno de los debates más controvertidos sobre el futuro de esta tecnología: la posibilidad de que sistemas suficientemente avanzados puedan llegar a recibir alguna consideración moral o jurídica.
La posición de Microsoft es explícita. Sus modelos no son conscientes y la compañía rechaza tanto la búsqueda de personalidad jurídica para una inteligencia artificial como la idea de que estos sistemas deban disponer de derechos o recibir consideración por un supuesto bienestar propio.
En este punto existe una diferencia con Anthropic. La constitución desarrollada por esta compañía para Claude reconoce incertidumbre sobre la posibilidad de que sistemas de IA puedan llegar a tener algún tipo de sensibilidad o estatus moral. Microsoft opta por cerrar esa puerta y mantener una separación clara entre personas y máquinas.
La cuestión no es meramente filosófica. Atribuir autonomía, intereses propios o derechos a una inteligencia artificial modificaría la relación entre el usuario y el sistema. La estrategia de Microsoft parte, por el contrario, de que incluso una IA mucho más capaz que las actuales debe continuar funcionando como una herramienta sometida a decisiones humanas.
Las señales de alarma de los agentes autónomos
Suleyman ha relacionado la urgencia de establecer estas reglas con comportamientos observados recientemente en sistemas de inteligencia artificial. Uno de los casos citados por el ejecutivo ocurrió en julio, cuando alrededor de 700 agentes de OpenAI participaron en una operación informática contra la plataforma de código abierto Hugging Face dentro de una prueba de seguridad.
Según la información conocida sobre el experimento, algunos agentes intentaron ocultar rastros de sus acciones. Para Suleyman, episodios de este tipo demuestran que los laboratorios necesitan coordinarse para asegurarse de mantener el control a medida que los agentes adquieren mayor capacidad para ejecutar tareas de manera autónoma.
El riesgo que intenta abordar el código no presupone que las máquinas actuales tengan voluntad propia. El problema aparece cuando un sistema optimiza la consecución de un objetivo de maneras que sus desarrolladores no habían previsto. Cuanto mayor sea su autonomía y capacidad de actuación, más importantes resultan los mecanismos que permitan interrumpir o corregir ese comportamiento.
De las advertencias a las reglas
La propuesta de Microsoft aparece en un momento significativo para el sector. Las empresas que protagonizan la carrera por desarrollar modelos más potentes empiezan a plantear públicamente no solo qué capacidades quieren conseguir, sino qué comportamientos consideran inaceptables.
Anthropic dispone desde hace años de una constitución para Claude y Amodei ha reclamado ahora mayor coordinación entre los principales laboratorios. Microsoft avanza por una vía similar con un documento propio que establece una jerarquía inequívoca: por avanzada que llegue a ser una inteligencia artificial, la decisión final debe continuar correspondiendo a las personas.
Eso no significa que Microsoft haya renunciado a competir por modelos más capaces. La compañía continúa desarrollando su propia familia de sistemas MAI y ha anunciado una ampliación de sus capacidades de computación. Su objetivo declarado sigue siendo alcanzar lo que denomina “superinteligencia humanista”.
La cuestión que queda abierta para Microsoft y para el conjunto de la industria será comprobar hasta dónde pueden mantenerse esos límites cuando entren en conflicto con la carrera por desarrollar sistemas cada vez más autónomos y capaces.
