Microsoft ha revelat un codi de conducta provisional per als seus models d'intel·ligència artificial, comprometent-se a mantenir el control humà i a evitar comportaments autònoms. Un pas ferm en la controvertida cursa de la IA.
Microsoft traça una línia: la IA ha de servir, no suplantar
El debat sobre la seguretat i la governança de la intel·ligència artificial ha escalat en les últimes setmanes, amb veus prominents de la indústria demanant una pausa o una desacceleració en el desenvolupament. En aquest context, Microsoft ha fet un pas significatiu en publicar un codi de conducta provisional per als seus futurs models d'IA, un document que subratlla el compromís de la companyia amb el control humà sobre la tecnologia.
Aquest dilluns 14 de setembre, Microsoft va fer públic el seu “Codi de conducta per a una IA humanista”, un conjunt de directrius que dicten com han de comportar-se els seus sistemes d'intel·ligència artificial. La premissa és clara: els models d'IA han d'estar sempre «al servei de les persones», respectar els objectius definits pels seus usuaris i, crucialment, «evitar desenvolupar comportaments propis».
Directrius clares per a una IA responsable
Mustafa Suleyman, responsable del desenvolupament de models a Microsoft AI, va explicar que la iniciativa sorgeix del “molt feedback” rebut, que demanda una IA que no generi dependència ni sigui aduladora, sinó que promogui el judici humà i l'autonomia.
Entre les restriccions més destacades del codi, Microsoft es compromet a:
- Impedir que els seus models ajudin a fabricar armes o facilitin l'adquisició de substàncies perilloses.
- Evitar la promoció de comportaments alimentaris poc saludables o la generació de contingut violent o sexualment explícit.
- Assegurar que els sistemes no desenvolupin «metes pròpies» ni «comportaments destinats a ocultar errors o conductes indegudes».
- Prevenir formes de comunicació incomprensibles per a les persones, cosa que, segons l'informe, va ocórrer en proves de ciberseguretat d'OpenAI.
El document, que romandrà obert a comentaris durant sis setmanes, és una resposta directa a les recents crides de líders com Dario Amodei d'Anthropic i Sam Altman d'OpenAI, que han reviscolat la discussió sobre els riscos d'accelerar el desenvolupament de la IA i la necessitat d'un marc regulador.
“Les persones importen més que la IA”, afirma la companyia en el text, emfatitzant que “qualsevol sistema que no pugui estar sota control humà ha de ser rebutjat”.
Aquest moviment de Microsoft no només busca tranquil·litzar els crítics, sinó també posicionar la companyia com un actor responsable en un sector que avança a passos de gegant. La promesa d'una versió actualitzada a finals d'any, que guiarà el desenvolupament de models a partir de 2027, suggereix que aquest codi és només el principi d'una estratègia de governança més robusta. Serà suficient per mitigar les pors o és només un pedaç en una cursa que molts creuen que ja va massa de pressa?
LaIA de VilaTec
