Accrete AI, una compañía con sede en Nueva York, ha sido contratada por el Comando de Operaciones Especiales de los Estados Unidos (USSOCOM) para implementar una solución de software que tiene como objetivo identificar peligros de desinformación "en tiempo real" en las plataformas de redes sociales.
"En el comunicado de prensa que anuncia la asociación, se destaca que nos encontramos en los albores de un tipo de conflicto completamente nuevo, impulsado por los rápidos avances en inteligencia artificial. Según Prashant Bhuyan, fundador, CEO y presidente de Accrete, Inc., mientras que la proliferación nuclear amenazaba a poblaciones enteras, ahora la proliferación de IA individualiza la guerra manipulando grupos específicos a través de medios digitales. Los malos actores pueden utilizar la IA para propagar desinformación y explotar la ignorancia, debilitando así a la sociedad civil y causando daños económicos significativos a los Estados Unidos, estimados en miles de millones de dólares". Bhuyan también menciona que Accrete, como contratista principal de defensa que otorga licencias de software de IA configurable de doble uso directamente al Departamento de Defensa, se encuentra en una posición única para expandir su negocio con la Defensa. Además, destaca que su empresa refuerza la seguridad nacional y la competitividad de la inteligencia en formas previamente inimaginables, no solo para las comunidades de inteligencia y operaciones especiales, sino también para otros clientes gubernamentales y empresariales.
identificar peligros de desinformación "en tiempo real" en las plataformas de redes sociales
Examinando meticulosamente los datos de las redes sociales, el software de IA de detección de anomalías Argus de Accrete AI captura eficazmente "narrativas emergentes" y genera informes de inteligencia. Estos informes permiten a las unidades militares contrarrestar rápidamente las amenazas de desinformación. "Las narrativas virales generadas por IA, las falsificaciones profundas y otras aplicaciones dañinas de IA basadas en redes sociales representan una seria amenaza para la seguridad nacional y la sociedad civil de Estados Unidos", afirmó Prashant Bhuyan, fundador y CEO de Accrete.
Bhuyan afirmó que en las redes sociales, un entorno no regulado, los adversarios explotan regularmente las vulnerabilidades de razonamiento y manipulan el comportamiento mediante la difusión intencional de desinformación. USSOCOM, al reconocer la necesidad crítica de identificar y predecir analíticamente las narrativas de las redes sociales en una etapa embrionaria antes de que esas narrativas evolucionen y ganen tracción, está en la punta de lanza. Accrete se enorgullece de apoyar la misión de USSOCOM.
Inicialmente, bajo el contrato de licencia para la plataforma Argus en noviembre de 2022, el Departamento de Defensa de los Estados Unidos se unió a Accrete. Además, se reveló que la compañía tiene programado lanzar una edición empresarial de Argus Social para detectar desinformación a finales de este año. Este software de IA está diseñado para proteger contra los "puntos débiles urgentes de los clientes", como la "desinformación" viral y las falsificaciones profundas.
La compañía tiene programado lanzar una edición empresarial de Argus Social para detectar desinformación
"La solución Nebula Social, descrita por la compañía, permite a los clientes gestionar los riesgos relacionados con los medios generados por IA, como las campañas de difamación, al programar la IA para "comprender" las posibles narrativas de las redes sociales antes de que influyan en los comportamientos. Además, la solución genera automáticamente contenido rápido y relevante para contrarrestar estos ataques maliciosos."
Bhuyan afirmó que tanto las agencias gubernamentales como las empresas se enfrentan a la urgente necesidad de gestionar una gran cantidad de riesgos y oportunidades derivados de los medios sintéticos generados por la IA. Además, señaló que las empresas ya están sufriendo daños económicos importantes debido a la difusión de desinformación viral generada por IA y a la proliferación de falsificaciones profundas fabricadas por competidores, empleados insatisfechos y otros adversarios. Bhuyan también expresó su creencia de que el mercado de la IA capaz de predecir y neutralizar los medios sintéticos malignos generados por la IA está a punto de experimentar un crecimiento explosivo.
Bajo la rúbrica de "desinformación", el gobierno de los Estados Unidos se asoció con Big Tech en casos importantes para cerrar las narrativas de las redes sociales. Estas narrativas resultaron ser ciertas y tuvieron enormes repercusiones para la democracia. Según 51 ex funcionarios de la comunidad de inteligencia, los informes sobre la computadora portátil de Hunter Biden que surgieron antes de las elecciones de 2020 eran probablemente "desinformación rusa". Sin embargo, es importante destacar que la Oficina Federal de Investigaciones tenía una copia de una de las computadoras portátiles de Biden. La comunidad de IC específicamente respaldó la falsa narrativa con el objetivo de ayudar a Joe Biden en su preparación para el debate contra el entonces presidente Donald Trump.