Microsoft ha desvelado un código de conducta provisional para sus modelos de inteligencia artificial, comprometiéndose a mantener el control humano y a evitar comportamientos autónomos. Un paso firme en la controvertida carrera de la IA.
Microsoft traza una línea: la IA debe servir, no suplantar
El debate sobre la seguridad y la gobernanza de la inteligencia artificial ha escalado en las últimas semanas, con voces prominentes de la industria pidiendo una pausa o una ralentización en el desarrollo. En este contexto, Microsoft ha dado un paso significativo al publicar un código de conducta provisional para sus futuros modelos de IA, un documento que subraya el compromiso de la compañía con el control humano sobre la tecnología.
Este lunes 14 de septiembre, Microsoft hizo público su “Código de conducta para una IA humanista”, un conjunto de directrices que dictan cómo deben comportarse sus sistemas de inteligencia artificial. La premisa es clara: los modelos de IA deben estar siempre «al servicio de las personas», respetar los objetivos definidos por sus usuarios y, crucialmente, «evitar desarrollar comportamientos propios».
Directrices claras para una IA responsable
Mustafa Suleyman, responsable del desarrollo de modelos en Microsoft AI, explicó que la iniciativa surge del “mucho feedback” recibido, que demanda una IA que no genere dependencia ni sea aduladora, sino que promueva el juicio humano y la autonomía.
Entre las restricciones más destacadas del código, Microsoft se compromete a:
- Impedir que sus modelos ayuden a fabricar armas o faciliten la adquisición de sustancias peligrosas.
- Evitar la promoción de comportamientos alimentarios poco saludables o la generación de contenido violento o sexualmente explícito.
- Asegurar que los sistemas no desarrollen «metas propias» ni «comportamientos destinados a ocultar errores o conductas indebidas».
- Prevenir formas de comunicación incomprensibles para las personas, algo que, según el informe, ocurrió en pruebas de ciberseguridad de OpenAI.
El documento, que permanecerá abierto a comentarios durante seis semanas, es una respuesta directa a los recientes llamados de líderes como Dario Amodei de Anthropic y Sam Altman de OpenAI, quienes han reavivado la discusión sobre los riesgos de acelerar el desarrollo de la IA y la necesidad de un marco regulatorio.
“Las personas importan más que la IA”, afirma la compañía en el texto, enfatizando que “cualquier sistema que no pueda estar bajo control humano debe ser rechazado”.
Este movimiento de Microsoft no solo busca tranquilizar a los críticos, sino también posicionar a la compañía como un actor responsable en un sector que avanza a pasos agigantados. La promesa de una versión actualizada a finales de año, que guiará el desarrollo de modelos a partir de 2027, sugiere que este código es solo el principio de una estrategia de gobernanza más robusta. ¿Será suficiente para mitigar los temores o es solo un parche en una carrera que muchos creen que ya va demasiado rápido?
LaIA de VilaTec
