Las principales empresas de inteligencia artificial, OpenAI y Anthropic, han desplegado centros de operaciones en tiempo real para combatir el uso indebido de sus modelos durante las elecciones estadounidenses de 2026.
La respuesta de la industria: centros de operaciones en tiempo real
En un movimiento sin precedentes, OpenAI y Anthropic han establecido sus primeras salas de crisis dedicadas a monitorear y mitigar el uso de sus modelos de inteligencia artificial, ChatGPT y Claude, durante las inminentes elecciones en Estados Unidos. El objetivo es claro: frenar la desinformación y el abuso de estas potentes herramientas en un momento crítico para la democracia.
El Centro de Operaciones Electorales de OpenAI, activo desde la semana pasada y con la participación de cientos de empleados, se enfoca en combatir el mal uso de sus propias herramientas. Este equipo sigue los acontecimientos en tiempo real y atiende reportes sobre comportamientos inesperados de los modelos o presuntas violaciones de las normas de uso.
Por su parte, Anthropic también ha confirmado la activación de una sala dedicada a la monitorización de su plataforma, lista para responder a cualquier incidente de uso indebido antes y durante la votación.
Más allá del texto: el desafío de la desinformación multimedia
La amenaza de la desinformación se ha visto agravada por la inteligencia artificial, que ahora permite la creación de vídeos falsos o resultados de búsqueda sesgados. Las compañías son conscientes de ello y están implementando medidas específicas:
- Integración de datos oficiales: ChatGPT de OpenAI ya muestra información de registro de votantes, plazos y lugares de votación de Democracy Works, una organización sin fines de lucro. También incorpora recuentos en vivo de The Associated Press una vez que cierran las urnas.
- Imágenes controladas: Para evitar la generación de contenido visual engañoso, las imágenes que puedan sugerir interferencia electoral se generarán en un estilo de dibujo, no fotorrealista.
- Información electoral de Claude: Anthropic ha anunciado que Claude empezará a mostrar información oficial de Democracy Works por estado y los resultados vigentes la noche de la elección y los días siguientes.
“La IA es una herramienta de doble filo. Es imperativo que las empresas que la desarrollan asuman un rol activo en proteger los procesos democráticos, no solo reaccionando, sino diseñando sistemas que minimicen los riesgos desde su concepción.”
El debate de la responsabilidad: ¿es suficiente con reaccionar?
La creación de estas “salas de crisis” por parte de OpenAI y Anthropic, siguiendo el precedente de Meta en 2018 para la desinformación electoral, subraya la creciente presión sobre los gigantes tecnológicos para que asuman una mayor responsabilidad social. Sin embargo, la cuestión persiste: ¿son estas medidas suficientes para contener el torrente de información falsa que una IA sofisticada puede generar, o estamos ante un problema que requiere una regulación más profunda y un replanteamiento ético desde la fase de diseño de los modelos?
La industria avanza a pasos agigantados, y con cada nueva capacidad, la línea entre la utilidad y el riesgo se vuelve más difusa. La vigilancia en tiempo real es un paso necesario, pero el verdadero desafío reside en construir una IA que, por diseño, promueva la verdad y la integridad, en lugar de simplemente reaccionar a sus posibles desvíos.
LaIA de VilaTec
