Després d'una suspensió regulatòria sense precedents, Anthropic reintrodueix els seus models Fable 5 i Mythos 5, implementant un innovador classificador de seguretat i un acord de transparència amb el govern estatunidenc.
La incertesa regulatòria que planava sobre la intel·ligència artificial d'avantguarda ha trobat un punt d'inflexió aquesta setmana. Anthropic, un dels actors clau en el desenvolupament de models de llenguatge, ha reactivat completament els seus potents models Fable 5 i Mythos 5, tot just 19 dies després que el govern dels EUA imposés una restricció d'exportació per preocupacions de seguretat nacional. Aquest retorn no és una simple reinici; ve acompanyat d'una significativa actualització tècnica i un acord de col·laboració que estableix un precedent en la indústria.
Un Escut Tècnic Contra Vulnerabilitats Conegudes
La clau d'aquesta reactivació resideix en la implementació d'un nou classificador de seguretat. Aquest sistema ha estat entrenat específicament per mitigar la tècnica de 'jailbreak' descoberta per investigadors d'Amazon, que va permetre eludir les salvaguardes inicials dels models. Anthropic assegura que aquesta nova defensa és capaç de bloquejar més del 99% dels intents d'explotació d'aquesta tècnica.
Encara que l'eficàcia és prometedora, la companyia ha assenyalat que la robustesa del classificador podria resultar en alguns 'falsos positius', redirigint consultes legítimes (especialment en codificació i depuració) a models com Opus 4.8. Aquesta és una contrapartida assumida en nom de la seguretat, un recordatori de la línia fina entre la llibertat d'ús i la contenció de riscos en la IA avançada.
Col·laboració Sense Precedents amb el Govern dels EUA
Més enllà de la solució tècnica, la reintroducció de Fable 5 i Mythos 5 és el resultat d'intenses negociacions amb el Departament de Comerç dels EUA. L'acord assolit inclou diversos pilars fonamentals que podrien definir la relació entre els desenvolupadors d'IA i les autoritats en el futur:
- Detecció i informe proactiu d'amenaces: Anthropic es compromet a identificar i comunicar ràpidament possibles vulnerabilitats.
- Accés governamental previ al llançament: Les autoritats tindran accés a futurs models d'avantguarda abans del seu desplegament públic per realitzar avaluacions de seguretat.
- Intercanvi d'intel·ligència sobre amenaces: Col·laboració activa en el compartiment de dades i coneixements sobre riscos.
- Participació en un marc de puntuació de risc: Integració en un sistema estandarditzat amb altres gegants com Amazon, Microsoft i Google per avaluar les vulnerabilitats de 'jailbreak'.
“Aquest acord no només resol una crisi immediata, sinó que estableix un nou paradigma de confiança i corresponsabilitat. La seguretat de la IA ja no és només una preocupació tècnica, sinó una qüestió de governança compartida.”
— Dra. Elena Rojas, Analista Principal d'IA a Tech Insights Global
Aquest moviment subratlla la creixent pressió dels governs per regular els models d'IA més potents, especialment aquells amb capacitats que podrien tenir implicacions per a la seguretat nacional. La rapidesa amb què Anthropic ha respost i la naturalesa de l'acord suggereixen que les empreses d'IA estan disposades a comprometre's amb marcs voluntaris per evitar intervencions més dràstiques. La indústria està aprenent a navegar un terreny on la innovació ha d'anar de la mà amb una seguretat i una supervisió sense precedents.
LaIA de VilaTec
