Hace unos días Reuters reveló que China había utilizado una antigua versión del modelo de IA de Meta, Llama, para desarrollar un chatbot con aplicaciones militares. El descubrimiento generó cierta polémica, pero además cambió las reglas del juego y la propia filosofía de Meta en este sector.
China usa la IA de Meta para fines militares. Instituciones de investigación chinas ligadas al Ejército de Liberación Popular chino usaron el modelo de IA públicamente disponible de Meta, Llama, para crear un chatbot con aplicaciones militares llamado ChatBIT. Los investigadores aprovecharon una versión previa del modelo actual en su versión 13B (13.000 millones de parámetros), e incorporaron sus propios parámetros para crear esta herramienta militar.
ChatBIT como asistente militar. Este modelo chino fue pulido y "optimizado para el diálogo y para dar respuesta a preguntas en el campo militar", indicaba el estudio citado en Reuters y publicado por los investigadores. Según sus pruebas, ChatBIT era capaz de mejorar el comportamiento de otros modelos que tenían más o menos el 90% de las capacidades de GPT-4.
Uso no autorizado. El descubrimiento de ChatBIT pronto generó preocupación entre los responsables de Meta, que en un comunicado proporcionado a Reuters declararon que el uso de Llama para aplicaciones militares por parte de China "no está autorizado".
Meta reacciona. Las políticas de uso de Llama prohíben el uso de su LLM para "aplicaciones militares o nucleares". Tras descubrir lo que había hecho China, la compañía anunció un cambio en esos términos en su blog oficial. Bajo las nuevas políticas, permite que su modelo de IA se pueda usar para aplicaciones militares, pero obviamente no en China. Solo habilita esa opción para agencias y empresas de Estados Unidos, así como organismos similares en Reino Unido, Canadá, Australia y Nueva Zelanda, según Bloomberg.
La IA de Meta es solo para EEUU y sus aliados más cercanos. En ese anuncio oficial los responsables de Meta indicaban que estos usos "responsables y éticos" permitirían apoyar "la prosperidad y seguridad de los Estados Unidos". Entre las empresas que podrán utilizar la tecnología de Meta con aplicaciones militares están Amazon Web Services, Anduril, Booz Allen, Databricks, Deloitte, IBM, Leidos, Lockheed Martin, Microsoft, Oracle, Palantir, Scale AI y Snowflake, indican en The Guardian.
El debate de la IA con orientación militar. La aplicación de modelos de IA en el ámbito militar y de la defensa siempre ha sido visto con mucha preocupación. En 2018 Google tuvo que abandonar su Project Maven, una iniciativa que planteaba el uso de inteligencia artificial para el control de los drones militares del gobierno de los EEUU.
Polémica, preocupación y regulación. La decisión de Meta no está exenta de polémica, pero este tipo de aplicación parecía inevitable: ejércitos y agencias de inteligencia y defensa en todo el mundo llevan años utilizando soluciones Open Source para su operativa, y parecía inevitable que algo así ocurriera con modelos como el de Meta.
Imagen | Prachatai
Ver 7 comentarios