El capital riesgo de Silicon Valley revienta la industria de defensa estadounidense
Elke Schwarz.
Foto: Imagen: Shutterstock / Hamara vía The Conversation.
Las empresas unicornio que pregonan aplicaciones de IA que ‘se mueven rápido y rompen cosas’ proliferan en el espacio militar-industrial estadounidense
Soy un propagandista, tergiverso la verdad, expongo sólo mi versión de ella sí creo que eso va a propagandizar a la gente para que crea lo que yo necesito que crea…
Esto no es un fragmento de un momento particularmente eufórico de la exitosa serie de televisión Mad Men. Estas palabras fueron pronunciadas por Palmer Luckey, CEO del startup de tecnología militar más puntera de Silicon Valley.
Trump proclama un nuevo orden mundial en sus primeros 100 días
La empresa de Luckey, Anduril Industries, está especializada en sistemas basados en inteligencia artificial, incluidos sistemas de armas autónomas. Con una valoración de 14.000 millones de dólares, Anduril es uno de los favoritos de la escena de las nuevas empresas de defensa y de su nuevo ecosistema de capital riesgo, donde las grandes promesas, las grandes apuestas y la tendencia a la propaganda son requisitos indispensables para el éxito.
La integración de la inteligencia artificial (IA) en los programas de defensa, por no hablar de los sistemas de armamento, sigue siendo controvertida El Comité de Inteligencia Artificial en Sistemas de Armas del Reino Unido ha instado a la cautela sobre los procesos de adquisición de armas habilitadas para IA, sin embargo -como suele ocurrir cuando se trata de productos de Silicon Valley- el desarrollo, la adquisición y el despliegue de programas de defensa de IA se ha acelerado bruscamente en los últimos años
Fundada apenas en 2017, Anduril ya ha recibido múltiples contratos multimillonarios del Departamento de Defensa de Estados Unidos, así como del Ministerio de Defensa del Reino Unido. En el contexto de la actual guerra entre Rusia y Ucrania, la guerra en Gaza y el aumento de la tensión mundial, esto puede no parecer un desarrollo sorprendente
En mi última investigación sobre IA militar, identifiqué que uno de los principales impulsores de la adquisición acelerada de productos militares de nueva creación, como drones autónomos y otros sistemas habilitados para IA, es la afluencia de enormes sumas de dinero e influencia del capital riesgo.
Estas empresas de capital riesgo necesitan que las organizaciones de defensa adopten el espíritu de velocidad y escala de la industria tecnológica y el apetito de riesgo y revolución del mundo del capital riesgo. Esto convierte a estas empresas no sólo en actores financieros, sino también políticos.
Mi investigación, publicada en Finance and Society, sugiere que es probable que esta tendencia a modelar la defensa a imagen de Silicon Valley, motivada por los intereses del capital riesgo, se acentúe y generalice. Teniendo esto en cuenta, merece la pena examinar más de cerca la dinámica en juego cuando el capital riesgo pone sus ojos en asuntos de vida o muerte
La emergente financiarización militar
La industria de la IA militar y el gasto mundial en defensa están en auge Según las estimaciones actuales, el mercado mundial de IA militar tenía un valor de 13.300 millones de dólares en 2024, con un crecimiento previsto de hasta 35.000 millones de dólares en los próximos siete años.
Estas cifras varían en función de los servicios de datos de mercado consultados, pero se han revisado al alza con regularidad en los últimos 12 meses. Los presupuestos mundiales de defensa también se han disparado en el contexto de los conflictos en curso y de un giro general hacia la militarización en los últimos 24 meses
El gasto mundial en defensa alcanzó un nivel récord de algo más de 2 billones de dólares en 2023 Con 877.000 millones de dólares, EE.UU. representó casi el 40% del gasto mundial en defensa en 2023 La alianza de la OTAN gastará 1,47 billones de dólares en 2024. Se trata de cifras grandes y atractivas para las grandes empresas tecnológicas y financieras con intenciones de hacerse un hueco en el mercado de la defensa.
Mientras tanto, las organizaciones de defensa están empezando a gastar más dinero en tecnologías de vanguardia, incluida, inevitablemente, la IA. Un informe del Instituto Brookings de 2024 descubrió que los contratos de defensa para tecnologías relacionadas con la IA aumentaron en valor en casi un 1.200% en los 12 meses comprendidos entre agosto de 2022 y agosto de 2023
Para la mayoría de los nuevos productos de IA, civiles o de otro tipo, a menudo se requiere algún tipo de financiación de capital riesgo, especialmente si la empresa de IA en cuestión puede resultar demasiado arriesgada para ser financiada a través de préstamos bancarios u otros instrumentos financieros. El capital riesgo está dispuesto a apostar por innovaciones que otros financiadores no estarían dispuestos o no podrían asumir.
En las dos últimas décadas, este tipo de financiación se ha centrado principalmente en productos de Silicon Valley para el mercado civil, donde la dinámica ha permitido obtener ganancias extraordinarias para los inversores.
Pero a medida que crece el mercado de defensa y disminuyen las oportunidades de obtener beneficios extraordinarios del capital riesgo en las esferas comerciales, quienes disponen de grandes cantidades de capital para invertir ven a su alcance una nueva oportunidad de obtener enormes ganancias en defensa
No es de extrañar, por tanto, que en los últimos cinco años haya aumentado la inversión de capital riesgo en tecnologías de defensa De 2019 a 2022, la financiación de capital riesgo estadounidense para startups de tecnología militar se ha duplicado, y desde 2021, el sector de la tecnología de defensa ha visto una inyección de 130.000 millones de dólares en dinero de capital riesgo
El gasto de capital riesgo también está en un máximo histórico para el sector de defensa europeo; se prevé que las inversiones privadas de capital riesgo alcancen un récord de 1.000 millones de dólares, impulsadas principalmente por empresas de riesgo estadounidenses Hay un zumbido palpable en el aire sobre las posibilidades de las iniciativas respaldadas por capital riesgo y la posibilidad de remodelar el panorama de la defensa.
El nexo entre capital riesgo, ejército y Silicon Valley
El capital riesgo siempre ha estado relacionado de alguna manera con el sector militar. De hecho, el auge actual de la inversión en defensa del capital riesgo podría considerarse un retorno a sus primeros días.
Los orígenes del capital riesgo suelen remontarse a las American Research and Development Corporations (ARDC) fundadas en 1946, justo después de la Segunda Guerra Mundial, en la que Estados Unidos se vio impulsado por una victoria lograda, al menos en parte, gracias a las tecnologías de vanguardia.
ARDC fue una de las primeras empresas en captar sistemáticamente capital de inversores institucionales para financiar empresas de tipo start-up con gran potencial pero demasiado arriesgadas para los préstamos bancarios.
Con este enfoque, ARDC fue el primer conjunto de capital riesgo en crear carteras de inversión que a menudo se basaban en uno o dos éxitos extraordinarios para compensar la mayoría de las empresas que sólo obtenían rendimientos muy modestos o, incluso, pérdidas. De este modo, ARDC fue la primera empresa llamada «unicornio».
Los unicornios son empresas jóvenes que reciben una valoración de 1.000 millones de dólares o más (hasta hace poco una ocasión extremadamente rara para una startup y algo que todo inversor codicia en su cartera). Esta es la esencia de la inversión en capital riesgo: se trata de capital de riesgo con recompensas potencialmente muy elevadas.
En los primeros tiempos, sobre todo justo después de la Segunda Guerra Mundial, muchas inversiones se destinaron a apoyar a empresas de nueva creación que se ocuparan de innovación y tecnologías militares. Así surgieron diversos instrumentos analíticos, generadores de alto voltaje, tecnología de detección de radiaciones y las primeras empresas de miniordenadores, como Digital Equipment Corporation.
El paisaje digital, tal y como lo conocemos hoy, tiene sus raíces en el ejército Las innovaciones en la teoría de las comunicaciones se destinaron a la tecnología de misiles militares en la década de 1950, los abuelos de la IA trabajaron casi todos en proyectos militares de mediados de siglo e incluso la propia Internet surgió de un proyecto militar, entonces llamado Arpanet.
Muchas empresas de Silicon Valley siguieron vinculadas al sector militar durante décadas y, como ha escrito el antropólogo Roberto Gonzales, casi «todos los gigantes tecnológicos actuales llevan algo de ADN de la industria de defensa y tienen un largo historial de cooperación con el Pentágono». Así pues, el ADN del capital riesgo está plegado a esta relación
Pero conviene subrayar que tradicionalmente eran las necesidades de las organizaciones militares y de los gobiernos las que dictaban en gran medida el ritmo, la estructura y el proceso de las innovaciones tecnológicas
En la actualidad, el ritmo y el enfoque de la tecnología y la innovación militares lo marca cada vez más una industria emergente tecnológica cada vez más potente y con más voz y sus financiadores, que han puesto en marcha una serie de iniciativas de «capital patriótico», como American Dynamism, Special Competitive Studies Project, Rebooting the Arsenal of Democracy y America’s Frontier Fund.
Estas empresas fueron concebidas por un puñado de empresas e individuos prominentes en el nuevo dominio de la tecnología de defensa para dar forma a las prioridades militares y de defensa y obtener buenos beneficios mientras lo hacen.
Apoyadas por grandes cantidades de capital riesgo, las empresas unicornio están proliferando en el espacio de defensa, incluidos nuevos unicornios de tecnología militar como Anduril Industries, Shield AI, Skydio, Scale AI y Palantir (Palantir técnicamente ya no es una startup desde que salió a bolsa en 2020, pero sigue formando parte de una cohorte de nuevas tecnologías militares).
Se trata de una evolución reciente En las dos décadas que van de mediados de los 90 a 2014, el sector del capital riesgo centró sus esfuerzos en un próspero panorama tecnológico civil, donde el cielo era el límite proverbial para los retornos de las startups tecnológicas como Google, Microsoft, Facebook y PayPal
El mercado de defensa, por el contrario, se consideraba maduro y consolidado, con estrictas normas y reglamentos de adquisición y muy pocas oportunidades de obtener grandes beneficios de las inversiones. Para que un contrato gubernamental fructificara, a menudo se necesitaban muchos años.
La defensa también estaba dominada por un puñado de actores clave de la industria, los llamados «primes», entre los que se encontraban Lockheed Martin, RTX Corporation, Northrop Grumman, Boeing, General Dynamics y BAE Systems.
Estas empresas se reparten entre sí la mayor parte del mercado de defensa y parece que las nuevas empresas tecnológicas tienen pocas oportunidades de entrar en él sin grandes esfuerzos.
Por ejemplo, empresas como SpaceX y Palantir demandaron a las Fuerzas Aéreas y al Ejército de Tierra de Estados Unidos en 2014, respectivamente, para tener la oportunidad de pujar por determinados contratos. El uso de la ley para romper la defensa abierta para las startups militares se ha generalizado desde entonces
Además de estos obstáculos estructurales para la inversión de capital riesgo en el sector de la defensa, había un mayor coste moral nominal asociado a la idea de sacar provecho de la guerra Dado que los inversores de capital riesgo suelen ser dotaciones, fundaciones, compañías de seguros, universidades y fondos de pensiones, existía una reticencia externa a ser vistos como inversores en «una cartera de defensa» o, en otras palabras, en instrumentos de muerte. Los inversores europeos de capital riesgo se mostraron especialmente cautelosos
Sin embargo, la rapidez con la que este temor parece haber disminuido en menos de una década es notable, lo que sugiere que los inversores que apuntalan las empresas de capital riesgo provienen de diferentes orígenes que podrían tener menos dudas cuando se trata de beneficiarse del negocio de la guerra, o que siempre fue simplemente una cuestión de matemáticas más que de moral.
Unicornios e hipercrecimiento
Hoy en día, todo el mundo quiere invertir en un unicornio (1) porque tiene el potencial de dispararse en valoración.
Pero para conseguir un pie en la puerta con un producto o concepto no probado, algunas empresas emergentes pueden verse motivadas a hacer grandes y audaces afirmaciones sobre la naturaleza revolucionaria y transformadora de sus productos. E incluso una vez que la empresa se ha asegurado la financiación, el espíritu de prometer demasiado a menudo se mantiene con el fin de mantener el éxito hacia el hipercrecimiento.
En el peor de los casos, la sobrepromesa se hace a tal escala que equivale a un fraude criminal, como fue el caso del tristemente célebre startup de análisis de sangre Theranos, que pasó de ser una de las startups sanitarias más interesantes, valorada en 10.000 millones de dólares en su punto álgido en 2015, a una quiebra total en cuatro años.
En el caso de Theranos, el carismático fundador de la empresa había exagerado las capacidades de la tecnología, afirmando que permitiría realizar toda una serie de pruebas con una sola gota de sangre Esta tecnología revolucionaria «podría revolucionar la medicina y salvar vidas en todo el mundo».
Era una promesa de futuro -la tecnología aún no podía hacer lo que se prometía-, no obstante, la empresa afirmaba que ya tenía un dispositivo de análisis que funcionaba, lo que resultó ser mentira Theranos quebró en 2018 y su carismática fundadora, Elizabeth Holmes, ingresó en prisión.
Vender una fantasía
Hay muchas otras historias menos dramáticas que se desarrollan de manera similar, aunque no fraudulenta: empresas que prometen revolucionar la forma en que hacemos cosas mundanas con tecnología innovadora, que resultan ser insostenibles, inviables o simplemente se esfuman
El resultado es que los inversores pierden dinero y, lo que es más importante, que las personas que confiaban en la promesa tecnológica salen perjudicadas.
En el contexto de la defensa, las promesas de la nueva tecnología militar giran en torno a la venta de una disuasión poderosa, a la protección de la democracia, a la capacidad de tener un conocimiento exhaustivo, preciso y en tiempo real, a un mundo totalmente transparente y, sobre todo, a una victoria limpia, rápida y decisiva con una conectividad fluida y sin esfuerzo.
Esto puede fomentar, en el peor de los casos, una fantasía de omnisciencia y omnipresencia y, en el mejor, aviva el deseo de una revolución imposible en la guerra que es demasiado atractiva para resistirse y, en última instancia, atrae a un público cada vez más amplio a su estela.
Estos relatos suelen estar respaldados por la idea generalizada de que el futuro de la IA es inevitable. Se trata de un poderoso argumento que mitifica y valoriza una tecnología que quizá nunca cumpla lo prometido. Es una mezcla potente que a menudo se resiste a voces más sobrias que instan a la cautela.
Las afirmaciones de los unicornios de la defensa suelen parecer plausibles, pero no son verificables porque se refieren al futuro. Y a menudo ese futuro refleja una visión moldeada por la ficción y la ciencia-ficción, que siempre está a algunos grados de distancia de los retos sociales y políticos de la realidad
Esta tentación de prometer demasiado y de mitificar la tecnología posible está dando forma a programas que trabajan para conseguir una transparencia y un alcance globales a gran velocidad. El programa de Mando y Control Conjunto de Todos los Dominios (JADC2) es una de esas iniciativas del Pentágono. Su objetivo es conectar todos los dominios -terrestre, aéreo, marítimo, espacial y cibernético- en una única red para el «análisis predictivo» y la «batalla de alta velocidad».
Para que el programa resulte aceptable para el Congreso, el JADC2 se compara a menudo con la plataforma de viajes compartidos Uber, que promete una interacción perfecta entre sistemas y plataformas para intervenciones rápidas.
Esto centra la atención en la IA como una necesidad infraestructural para todos los activos y plataformas militares. Sin ampliar la IA militar, esta visión será imposible Es aquí donde reside la oportunidad para las startups militares
Dos destacadas empresas de tecnología militar son contratistas del JADC2: Andurily Palantir. Ambas empresas no ocultan su ambición de trastornar el sector de la defensa, desbancar a las principales empresas actuales y hacerse con una porción monopolística del mercado para asegurarse ganancias cada vez mayores.
Palantir se ha fijado como objetivo «convertirse en el sistema operativo central de todos los programas de defensa estadounidenses»; Anduril ha declarado que irá «a por todo lo que esté en la lista [del Departamento de Defensa]» para dominar el sector. Para ambas empresas, ésta es la batalla: la batalla por el crecimiento.
Como dice Luckey, de Anduril: «hay que luchar y ganar en múltiples áreas». (Lo dice en términos de estrategia corporativa, no de campos de batalla reales). Del mismo modo, el consejero delegado y cofundador de Palantir, Alex Karp, reconoció que, para abrir de par en par el mercado de la defensa, se siente orgulloso de «haber arrastrado, pateado, engatusado y humillado» a varios legisladores, responsables políticos y gobiernos para que contribuyeran a este objetivo. Moverse rápido y romper cosas
Convertirse en un unicornio exige un esfuerzo concertado y una postura agresiva por parte de quienes más pueden ganar económicamente en este terreno. La mejor manera de conseguirlo es aliarse con otras empresas afines. En el panorama actual del capital riesgo en defensa, existe un estrecho vínculo entre fundadores y financiadores.
Peter Thiel, por ejemplo, es cofundador de Palantir y también dirige la empresa de capital riesgo Founders Fund, que ha invertido en Space X, Anduril y Scale AI, entre otras. La empresa de capital riesgo Andreessen Horowitz también financia SpaceX, Anduril, Shield AI y Skydio.
Los directivos de estas empresas de capital riesgo tienen vínculos de larga data entre sí. Del mismo modo, hay entrelazamientos entre empresas Anduril, por ejemplo, fue creada por antiguos empleados de Palantir que aprovecharon su experiencia en Palantir y la aplicaron en Anduril. Palmer Luckey, antiguo empleado de Oculus Rift, se convirtió en su carismático y franco CEO.
Peter Thiel y Eric Schmidt (ex consejero delegado de Google y presidente de la Comisión de Seguridad Nacional de EE.UU. sobre Inteligencia Artificial) invierten en el America’s Frontier Fund, etc.
Existe una red de financieros y empresas emergentes muy unida y bien conectada que trabaja para redoblar el mensaje clave: el sector de la defensa necesita una disrupción y nosotros somos los que podemos cambiar las cosas.
En una reciente mesa redonda ante el Comité de las Fuerzas Armadas de EE.UU. participaron representantes de cinco nuevas empresas militares. Todas y cada una de ellas estaban financiadas por la empresa de capital riesgo Andreessen Horowitz o afiliadas a ella de alguna otra forma.
Shyam Sankar, Director de Tecnología de Palantir , abogó por «más locura» y por «dejar que reine el caos» en el proceso de adquisición y contratación militar, de modo que puedan fomentarse los incentivos necesarios para la innovación a través de la competencia interdepartamental.
Las limitaciones normativas, opina, «te constriñen a la supervisión» y él «aceptaría de buen grado más fracasos si eso significara que tuviéramos más éxitos catastróficos». Qué tipo de éxito podría ser éste, o cuáles son las implicaciones del fracaso, sigue sin abordarse, pero está claro que el CTO de Palantir habla con una lógica de capital riesgo en mente
Y, según un reciente informe del Consejo de Innovación de Defensa de EE.UU., parece que el gobierno está dispuesto a asumir más riesgos y dar cobertura a estos «inconformistas».
La narrativa de la «crisis»
Además de cultivar startups con gran potencial, hay varias formas de adaptar el sector de la defensa a las necesidades de los contratistas de Silicon Valley y sus patrocinadores de capital riesgo. El poder de la narrativa también tiene mucho que ver en este caso.
Los gestores de capital riesgo y sus empresas de nueva creación suelen escribir artículos de opinión de gran repercusión en los que se lamenta el mal estado de la defensa (estadounidense), se insiste en la necesidad de acelerar la innovación y se evoca la posibilidad de que Estados Unidos «muy probablemente» se vea envuelto en «una guerra a tres bandas con China, Rusia e Irán». En resumen, se inventa una historia de urgencia que ayuda a valorizar a las empresas que abordan la crisis inminente.
Un segundo pilar en la revisión estructural de la defensa es emplear una intrincada red de antiguos empleados del gobierno que sirven como grupos de presión o como asesores con estrechos vínculos con el gobierno
El ex congresista republicano Mike Gallagher, por ejemplo, se convirtió en el jefe de operaciones de defensa de Palantir en agosto de 2024 y el ex asesor de Seguridad Nacional H R McMaster es ahora asesor principal de Shield Capital
Hay muchos más momentos de «puerta giratoria»en los que expertos creíbles prestan su autoridad a las nuevas startups La escena de las nuevas empresas de tecnología militar, como la mayoría de las creaciones de Silicon Valley, goza de cierto prestigio y el dinero también es atractivo.
Anduril, tras aprender de Palantir, contrató a un montón de grupos de presión en la primera semana, gastando más dinero en «abogados y grupos de presión que en ingenieros», como señaló Luckey en una entrevista reciente con The Economist.
Con ello, Anduril adopta una forma relativamente tradicional de configurar el panorama de la defensa, que también emplean los principales contratistas de defensa que tienen, como reconoce Anduril en una entrada de blog de 2022, un incentivo «para gastar mucho en equipos de abogados y grupos de presión para configurar los requisitos del programa en línea con la tecnología existente de la empresa».
Anduril, y quienes la respaldan, están haciendo ahora lo mismo, adaptado a su propio conjunto de tecnologías Los abogados se emplean a menudo no sólo para supervisar fusiones, adquisiciones y asociaciones, sino también como una forma de utilizar la ley como instrumento para forzar reformas
El objetivo principal de las demandas de SpaceX y Palantir contra el Ejército de Tierra y las Fuerzas Aéreas estadounidenses, que he mencionado antes, no era necesariamente ganar (la demanda de Space X no prosperó, la de Palantir sí), sino abrir un espacio para la revisión de las adquisiciones, y ambas demandas lo consiguieron.
La estrategia de crear una sensación de urgencia, redoblar los esfuerzos con los grupos de presión y crear la posibilidad estructural de una revisión de la defensa ya está en marcha. Para que quede claro, no estoy diciendo que el sector de la defensa no se beneficiaría de una modernización o reestructuración.
Tampoco estoy argumentando que todos los productos militares de nueva creación sean irrelevantes o insostenibles. Tampoco pretendo enfrentar a las primes con la nueva dinámica del capital riesgo y su enfoque en el crecimiento.
Pero lo que creo que merece la pena examinar es la dinámica en juego con estas nuevas empresas y sus prioridades e intereses implícitos, porque darán forma a las prácticas y prioridades Y donde hay disrupción, es de esperar cierto nivel de ruptura Y esto adquiere un tono diferente en cuestiones de vida o muerte
Restos de disrupción
La disrupción del sector de la defensa está en marcha y los esfuerzos por darle forma a imagen de Silicon Valley han dado sus frutos en los últimos años con una serie de resultados concretos El programa JADC2 antes mencionado es uno
Otros son evidentes en programas como la Iniciativa Replicante del Departamento de Defensa de EE.UU. , que incorpora los objetivos, plazos y productos que las startups militares de Silicon Valley tienen que ofrecer
Funcionarios de defensa de alto nivel repiten los argumentos del sector del capital riesgo, y varios programas de adquisición se han ajustado para adaptarse a la velocidad y la escala necesarias. Estas empresas tienen el oído de los responsables políticos y las demandas de una «Reforma de la Defensa» casi espiritual están encontrando una audiencia cada vez mayor.
¿Cuáles son las posibles consecuencias?
Cuando Uber trastornó el sector del transporte privado, dejó tras de sí una serie de leyes laborales, derechos de los trabajadores y disposiciones sanitarias para los conductores. Cuando AirBnB sacudió el sector del alojamiento, provocó un aumento de los precios de los alquileres en destinos turísticos populares. Cuando se intenta crear un monopolio, siempre hay consecuencias sociales y políticas A menudo estas consecuencias son previsibles, a veces no lo son
La perturbación del proceso de adquisiciones de defensa se produce, como mínimo, a costa de una mayor supervisión del proceso de adquisiciones El sector tecnológico no es conocido por su aprecio de los límites normativos Más bien al contrario Algunos de los financiadores más destacados del nuevo panorama de startups militares se oponen frontalmente a cualquier tipo de regulación
Marc Andreessen, un peso pesado del capital riesgo, por ejemplo, escribió un famoso manifiesto tecnooptimista en el que nombra la gestión de riesgos, las medidas de confianza y seguridad y los principios de precaución como «el enemigo».
Menos regulación significa menos supervisión y responsabilidad, no sólo en el gasto sino también en cómo y dónde se utilizan ciertas tecnologías y con qué efectos Esto es evidente
Pero hay muchas otras consecuencias muy plausibles que podríamos prever con la aceleración de la adquisición y el despliegue de tecnologías militares para la batalla Una de ellas es la reorientación hacia el riesgo y la experimentación
La actual cosecha de nuevas tecnologías militares, como los drones con IA y los sistemas de apoyo a la toma de decisiones con IA, se están probando y mejorando en directo y durante los conflictos en curso, como en la guerra entre Rusia y Ucrania, pero también en Gaza. Se trata de una forma de creación de prototipos que está adquiriendo cada vez más importancia y que necesita un campo de batalla activo para probar, iterar y optimizar eficazmente las tecnologías.
Esto también significa que es posible que se pongan en marcha tecnologías que no son adecuadas para su propósito, sólo para probarlas y mejorarlas sobre la marcha. Esto normaliza, si no promueve, el lanzamiento y la venta de productos de IA defectuosos y posiblemente inadecuados, que inevitablemente causarán daños a civiles inocentes atrapados en el punto de mira de un conflicto.
Podemos observar esto ahora mismo con el empuje de las empresas tecnológicas para vender sus grandes modelos lingüísticos a organizaciones militares Scale AI, por ejemplo, se ha asociado con Meta para vender un producto LLM, Defense Llama, con fines de defensa. La empresa afirma que la participación humana es «absolutamente necesaria» para el sistema.
Pero dado que es bien sabido que los LLM son propensos a lo que se conoce como alucinaciones, las posibilidades de que tales tecnologías funcionen exactamente como se anuncia son escasas para un contexto tan complejo y dinámico como la guerra Esto podría perjudicar a las personas atrapadas en medio de esta experimentación, puesta a punto y pruebas en vivo.
Una de las principales preocupaciones es que la tecnología no sea adecuada para lo inesperado, para los elementos menos calculables o previsibles de la guerra. Esto incluye las posibles amenazas terroristas emergentes o los movimientos de los Estados que a menudo se consideran irracionales, como Corea del Norte, por ejemplo.
El CEO de Anduril, Luckey, lo admitió en la entrevista con la que comencé Reconoció que la lógica sobre la que se construyen sus armas se desmorona con enemigos potenciales que rehúyen el planteamiento teórico del juego sobre el que descansa gran parte de la lógica de la IA para la defensa
Es muy difícil entrar en la teoría de juegos con gente que persigue una estrategia óptima no basada en la teoría de juegos… Es como jugar al monopoly con la persona que va a abandonar y dar todo su dinero a otra».
Una grave limitación para algo tan plagado de azar como la guerra También hay efectos de segundo y tercer orden que emanan de este giro hacia la lógica del capital riesgo
Al conjurar una amenaza inminente, podría cambiar el panorama global más amplio de los riesgos y la seguridad; al dar prioridad a las tecnologías armamentísticas, podría restringirse la financiación de otras formas de abordar los conflictos; al dedicar una cantidad cada vez mayor a tecnologías que siguen sin probarse y que pueden no tener permanencia, podrían desperdiciarse importantes cantidades de dinero que estarían mejor asignadas a otros fines
Pero éste es un país de fantasías y unicornios, donde tales consideraciones son tan especulativas como las tan cacareadas promesas de las armas de IA como los defensores de la democracia
En Silicon Valley, el lema «muévete rápido y rompe cosas» implica que los problemas que surgen en el despliegue de la tecnología siempre pueden abordarse y solucionarse más adelante.
En el mundo de la defensa y la guerra, el daño producido por este tipo de asunción de riesgos no puede deshacerse tan fácilmente.
