Meta ha detallado su estrategia para gestionar los riesgos derivados de la Inteligencia Artificial (IA) avanzada, asegurando que, aunque los riesgos no pueden eliminarse por completo, su enfoque está diseñado para evitar “resultados catastróficos”. La empresa presentó un documento titulado “Frontier AI Framework”, en el que explica cómo construye y evalúa sistemas de IA, así como las medidas que toma para reducir los riesgos y mitigar amenazas.
La compañía subrayó su compromiso con el desarrollo responsable de la IA, destacando que su objetivo es garantizar que esta tecnología sea beneficiosa para la sociedad. Meta clasificó los sistemas de IA en dos categorías de riesgo: “alto” y “crítico”, con un enfoque especial en áreas sensibles como la ciberseguridad y las armas químicas o biológicas. La empresa trabaja para establecer umbrales claros y anticipar los posibles usos indebidos de la tecnología.
A través de su “Frontier AI Framework”, Meta se compromete a modelar amenazas y desarrollar soluciones para mitigar los riesgos antes de que se materialicen, trabajando incluso con expertos externos cuando sea necesario. En situaciones donde los riesgos son identificados como altos, la compañía limitará el acceso a dichos sistemas hasta que se implementen las medidas de mitigación correspondientes. En casos de riesgos críticos, Meta detendría el desarrollo de la IA y aplicaría protecciones adicionales, aunque no se han detallado específicamente cuáles.
Este enfoque de Meta sigue las directrices de la Ley de Inteligencia Artificial de la Unión Europea, que establece regulaciones para garantizar la seguridad y los derechos fundamentales en el uso de la IA. Si bien la ley entró en vigor en agosto de 2023, la aplicación obligatoria de sus normas comenzará en 2026. Sin embargo, las prohibiciones de sistemas considerados de “riesgo inaceptable” ya se han implementado desde este domingo.
Este anuncio refuerza el compromiso de Meta de seguir avanzando en el desarrollo de la IA con responsabilidad, priorizando la seguridad y el bienestar de la sociedad.
