Shutterstock/Hamara

La Silicon Valley va-t-elle évoluer rapidement et révolutionner le domaine de la défense ? 

par Elke Schwarz

Je suis un propagandiste, je déformerai la vérité, je n'en présenterai que ma version si je pense que cela va inciter les gens à croire ce que j'ai besoin qu'ils croient.

Il ne s'agit pas d'un extrait d'un moment particulièrement exubérant de la série télévisée à succès Mad Men. Ces mots ont été poussé par Palmer Luckey, PDG de la start-up de technologie militaire la plus en vogue de la Silicon Valley. La société de Luckey, Anduril Industries, est spécialisée dans les systèmes basés sur l'intelligence artificielle, notamment les systèmes d'armes autonomes. Avec une valorisation de 14 milliards de dollars, Anduril est l'une des chouchous de la scène des startups de la défense et de son nouvel écosystème de capital-risque (VC) émergent où les grandes promesses, les gros paris et une tendance à la propagande sont un élément essentiel du succès.

L’intégration de l’intelligence artificielle (IA) dans les programmes de défense, sans parler des systèmes d’armes, reste controversée. Le Comité britannique sur l’intelligence artificielle dans les systèmes d’armes a a exhorté la prudence Les processus d’approvisionnement en armes basées sur l’IA sont en cours, mais – comme c’est souvent le cas lorsqu’il s’agit de produits de la Silicon Valley – le développement, l’approvisionnement et le déploiement de programmes de défense basés sur l’IA se sont fortement accélérés ces dernières années.

Fondée seulement en 2017, Anduril a déjà remporté plusieurs contrats de plusieurs millions de dollars auprès de la US Department of Defense (DoD), ainsi que le Ministère britannique de la Défense (MoD). Dans le contexte de la guerre en cours entre la Russie et l’Ukraine, de la guerre à Gaza et de la montée des tensions mondiales, cette évolution ne semble pas surprenante.

In mes dernières recherches En ce qui concerne l’IA militaire, j’ai constaté que l’un des principaux facteurs de l’accélération de l’acquisition de produits de start-ups militaires, tels que des drones autonomes et d’autres systèmes basés sur l’IA, est l’afflux d’énormes sommes d’argent et d’influence du capital-risque. Ces sociétés de capital-risque ont besoin que les organisations de défense adoptent l’éthique de rapidité et d’échelle de l’industrie technologique et l’appétit du monde du capital-risque pour le risque et la révolution. Cela fait de ces entreprises non seulement des acteurs financiers mais aussi des acteurs politiques.

Mes recherches, publié dans Finance et Société, suggère que cette tendance à façonner la défense à l'image de la Silicon Valley, motivée par des intérêts de capital-risque, va probablement devenir plus prononcée et plus répandue. Dans cette optique, il convient d'examiner de plus près la dynamique en jeu lorsque le capital-risque se penche sur des questions de vie ou de mort.

L’émergence de la financiarisation militaire

L'industrie de l'IA militaire et les dépenses mondiales en matière de défense sont toutes deux en plein essor. estimationsLe marché mondial de l’IA militaire valait 13.3 milliards de dollars en 2024, avec une croissance prévue à 35 milliards de dollars au cours des sept prochaines années. Ces chiffres varient en fonction des services de données de marché consultés, mais ils ont été régulièrement révisés à la hausse au cours des 12 derniers mois. Les budgets de défense mondiaux ont également explosé dans un contexte de conflits en cours et d’une évolution générale vers la militarisation au cours des 24 derniers mois.

Défense globale dépenses a atteint un niveau record d'un peu plus de 2 2023 milliards de dollars américains en 877. Avec XNUMX milliards de dollars américains, les États-Unis comptabilisés pour près de 40 % des dépenses mondiales de défense en 2023. Alliance de l'OTAN dépensera 1.47 billion de dollars en 2024. Il s'agit de chiffres importants et attrayants pour les grandes entreprises technologiques et financières qui souhaitent prendre pied sur le marché de la défense.

Le Section d'informations s'engage à fournir une qualité élevée journalisme de fondNos éditeurs travaillent avec des universitaires d’horizons très différents qui s’attaquent à un large éventail de défis sociétaux et scientifiques.

Pendant ce temps, les organisations de défense commencent à dépenser plus d'argent dans les technologies de pointe, y compris, inévitablement, l'IA. Un rapport du Brookings Institute de 2024 Rapport ont constaté que les contrats de défense pour les technologies liées à l'IA ont augmenté en valeur de près de 1200 12 % au cours des 2022 mois allant d'août 2023 à août XNUMX.

La plupart des nouveaux produits d’IA, civils ou autres, font souvent appel à une forme de financement par capital-risque, surtout si le projet d’IA en question s’avère trop risqué pour être financé par des prêts bancaires ou d’autres instruments financiers. Le capital-risque est prêt à prendre des paris sur l’innovation que d’autres bailleurs de fonds ne voudraient pas ou ne pourraient pas prendre.

Au cours des deux dernières décennies, ce type de financement s’est principalement concentré sur les produits de la Silicon Valley destinés au marché civil, où la dynamique a permis aux investisseurs de réaliser des gains extraordinaires. Mais à mesure que le marché de la défense se développe et que les opportunités de rendements extraordinaires du capital-risque dans les sphères commerciales s’amenuisent, ceux qui disposent de capitaux importants à investir voient une nouvelle opportunité de gains énormes dans le domaine de la défense à leur portée.

Il n’est donc pas surprenant qu’au cours des cinq dernières années, les investissements en capital-risque dans les technologies de défense aient explosé. De 2019 à 2022, le financement par capital-risque américain des startups du secteur des technologies militaires a augmenté de XNUMX %. Doublé, et depuis 2021, le secteur des technologies de défense a connu une injection de 130 milliards de dollars en capital-risque.

Les dépenses en capital-risque sont également à un niveau record pour le secteur européen de la défense ; les investissements privés en capital-risque sont projetée Le montant record de 1 milliard de dollars US a été atteint, principalement grâce à des fonds de capital-risque américains. On entend beaucoup parler des possibilités offertes par les initiatives financées par le capital-risque et de la possibilité de remodeler le paysage de la défense.

Le lien entre le capital-risque, l'armée et la Silicon Valley

Le capital-risque a toujours été lié d’une manière ou d’une autre au secteur militaire. En fait, l’essor actuel des investissements en capital-risque dans le secteur de la défense pourrait être considéré comme un retour à ses débuts. Les origines du capital-risque sont les suivantes : généralement retracé à l'American Research and Development Corporations (ARDC) fondée en 1946, juste après la Seconde Guerre mondiale où les États-Unis étaient portés par une victoire obtenue, au moins en partie, grâce à des technologies de pointe.

ARDC a été l’une des premières sociétés à lever systématiquement des capitaux auprès d’investisseurs institutionnels pour financer des start-ups à fort potentiel mais trop risquées pour des prêts bancaires. Avec cette approche, ARDC a été la première société de capital-risque à créer des portefeuilles d’investissement qui s’appuyaient souvent sur un ou deux succès extraordinaires pour compenser la majorité des entreprises qui n’obtenaient que des rendements très modestes, voire des pertes. ARDC a ainsi été la première société dite « licorne ».

Les licornes sont de jeunes entreprises valorisées à 1 milliard de dollars ou plus (jusqu'à récemment, c'était un cas extrêmement rare pour une start-up et un élément que tout investisseur convoitait dans son portefeuille). C'est le cœur de l'investissement en capital-risque : il s'agit de capital-risque avec des rendements potentiellement très élevés.

Au début surtout, juste après la Seconde Guerre mondiale, de nombreux investissements ont été consacrés au soutien des startups qui s'occupaient de Innovation et technologies militairesCela a donné naissance à divers instruments d’analyse, à des générateurs à haute tension, à une technologie de détection des radiations, ainsi qu’aux premières sociétés de mini-ordinateurs, comme la Digital Equipment Corporation.

Le paysage numérique tel que nous le connaissons aujourd’hui trouve ses racines dans le monde militaire. Les innovations dans la théorie des communications ont été conçues pour la technologie des missiles militaires dans les années 1950, les grands-pères de l’IA ont presque tous travaillé sur des projets militaires au milieu du siècle et même l’Internet lui-même est né de cette technologie. un projet militaire, alors nommé Arpanet.

De nombreuses entreprises de la Silicon Valley sont restées liées au secteur militaire au fil des décennies et, comme l’a souligné l’anthropologue Roberto Gonzales, code écrit, presque tous les géants technologiques d'aujourd'hui ont un ADN issu de l'industrie de la défense et ont une longue histoire de coopération avec le Pentagone. L'ADN du capital-risque est donc intégré dans cette relation.

Mais il convient de souligner que traditionnellement, ce sont les besoins des organisations militaires et des gouvernements qui dictaient en grande partie le rythme, la structure et le processus des innovations technologiques.

Aujourd'hui, le rythme et l'orientation de la technologie et de l'innovation militaires sont de plus en plus déterminés par une industrie de start-up technologiques de plus en plus vocale et puissante et par leurs bailleurs de fonds qui ont déclenché une série de «Capitale patriotique« des initiatives, telles que Dynamisme américain; la Projet Spécial d'Etudes Concurrentielles, Redémarrer l’arsenal de la démocratie et Fonds Frontière de l'AmériqueCes entreprises ont été conçues par une poignée d'entreprises et d'individus de premier plan dans le nouveau domaine des technologies de défense pour façonner les priorités militaires et de défense et en tirer de bons résultats. Soutenues par de vastes quantités de capital-risque, les licornes prolifèrent dans le domaine de la défense, y compris les nouvelles licornes de technologie militaire comme Industries Anduril, IA de bouclier, Skydio, Échelle AI et Palantir (Palantir n'est techniquement plus une startup depuis son introduction en bourse en 2020, mais elle fait toujours partie d'une cohorte de nouvelles technologies militaires).

Il s’agit d’une évolution récente. Au cours des deux décennies allant du milieu des années 90 à 2014, le secteur du capital-risque a concentré ses efforts sur un paysage technologique civil florissant, où les rendements des startups technologiques telles que Google, Microsoft, Facebook et PayPal étaient illimités.

Le marché de la défense, en revanche, était considéré comme mature et consolidé, avec des règles et réglementations strictes en matière d’acquisitions et trop peu de possibilités de retours sur investissement démesurés. Il fallait souvent de nombreuses années pour qu’un contrat gouvernemental se concrétise. Le secteur de la défense était également dominé par une poignée d’acteurs clés du secteur, les « primes », parmi lesquels Lockheed Martin, RTX Corporation, Northrop Grumman, Boeing, General Dynamics et BAE Systems.

Ces grands noms se sont partagé la part du lion du marché de la défense et les start-up technologiques n’ont apparemment guère de chances de s’y faire une place sans déployer des efforts considérables. Par exemple, des entreprises comme Space X et Palantir ont intenté des poursuites contre l’armée de l’air américaine et l’armée américaine en 2014, respectivement, pour avoir la possibilité de soumissionner pour certains contrats. Le recours à la loi pour faire obstruction au marché de la défense par des start-ups militaires est depuis devenu plus courant.

Outre ces obstacles structurels, l’idée de tirer profit de la guerre impliquait un coût moral plus élevé. Les investisseurs en capital-risque étant souvent des fondations, des compagnies d’assurance, des universités et des fonds de pension, ils étaient réticents à être perçus comme investissant dans un « portefeuille de défense » – autrement dit, dans des instruments de mort. Investisseurs européens en capital-risque étaient particulièrement prudents.

Cependant, la vitesse à laquelle ces inquiétudes semblent s'être apaisées en moins d'une décennie est remarquable, suggérant soit que les investisseurs qui soutiennent les sociétés de capital-risque viennent d'horizons différents qui aurait pu avoir moins d’hésitations lorsqu’il s’agissait de tirer profit des affaires de la guerre, ou que c’était toujours avant tout une simple question de mathématiques plutôt que de morale.

Licornes et hypercroissance

Aujourd’hui, tout le monde veut investir dans une licorne car elle a le potentiel de voir sa valorisation monter en flèche.

Mais pour mettre un pied dans la porte avec un produit ou un concept non éprouvé, certaines startups peuvent être motivées par des déclarations audacieuses sur la nature révolutionnaire et novatrice de leurs produits. Et même une fois qu'une entreprise a obtenu un financement, l'éthique de la sur-promesse reste souvent ancrée afin de maintenir le succès vers une hyper-croissance.

Dans le pire des cas, les promesses excessives sont faites à une telle échelle qu’elles équivalent à une fraude criminelle, comme ce fut le cas avec la célèbre startup de tests sanguins Theranos, qui est passée de l’une des startups de soins de santé les plus excitantes, évaluée à 10 milliards de dollars à son apogée en 2015, à un échec complet en quatre ans à peine.

Dans le cas de Theranos, le fondateur charismatique de l'entreprise avait promis des capacités technologiques excessives, affirmant qu'elle permettrait de réaliser toute une série de tests à partir d'une seule petite goutte de sang. Cette technologie révolutionnaire «pourrait révolutionner la médecine et sauver des vies dans le monde entier ».

C’était une promesse d’avenir – la technologie ne pouvait pas encore faire ce qui était promis – mais l’entreprise prétendait déjà disposer d’un appareil de test fonctionnel, ce qui s’est avéré être un mensonge. Theranos a fermé ses portes en 2018 et la fondatrice charismatique, Elizabeth Holmes, a été emprisonnée.

Vendre un fantasme

Il existe de nombreuses autres histoires, moins dramatiques, qui se déroulent de manière similaire, bien que non frauduleuse : des entreprises qui promettent révolutionner la façon dont nous faisons les choses banales avec des technologies révolutionnaires, qui s’avèrent insoutenables, impraticables ou tout simplement obsolètes.

Mais le résultat est que les investisseurs perdent de l’argent et, plus important encore, que les personnes qui se sont appuyées sur les promesses de la technologie subissent des préjudices.

Dans le contexte de la défense, les promesses des nouvelles technologies militaires tournent autour de la vente dissuasion puissante, De protéger la démocratie, de pouvoir avoir des informations complètes et précises, connaissance en temps réel, d'un globe entièrement transparent, et, avant tout, d'une propreté, victoire rapide et décisive avec une connectivité fluide et sans effort.

Cela peut, au pire, nourrir un fantasme d’omniscience et d’omniprésence et, au mieux, attiser le désir d’une révolution impossible dans le domaine de la guerre, trop attrayante pour y résister et qui finit par attirer un public toujours plus large dans son sillage. Ces récits sont souvent sous-tendus par un battage médiatique généralisé selon lequel un avenir avec l’IA est inévitable. Cela donne lieu à un scénario puissant qui mythifie et valorise une technologie qui ne tiendra peut-être jamais ses promesses. C’est un mélange puissant qui résiste souvent aux voix plus sobres. qui incitent à la prudence.

Les déclarations des licornes de la défense peuvent souvent sembler plausibles, mais elles sont généralement invérifiables, car elles concernent l’avenir. Et souvent, cet avenir reflète une vision façonnée par fiction et science fiction, qui se situe toujours à quelques degrés de distance des défis sociaux et politiques de la réalité.

Cette tentation de promesses excessives et de mythification des technologies possibles façonne les programmes qui œuvrent à la réalisation rapide d’une transparence et d’une portée mondiales. Le programme Joint-All-Domain Command and Control (JADC2) est l’un de ces efforts initiés par le Pentagone. Il vise à connecter tous les domaines – terre, air, mer, espace et cyber – en un seul réseau pour «analyse prédictive » et « bataille à grande vitesse ».

Pour rendre le programme acceptable pour le Congrès, JADC2 est souvent comparé à covoiturage La plateforme Uber promet une interaction fluide entre les systèmes et les plateformes pour des interventions rapides. Cela recentre l’attention sur l’IA en tant qu’infrastructure nécessaire pour tous les actifs et plateformes militaires. Sans développement de l’IA militaire, cette vision sera impossible. C’est là que réside l’opportunité pour les startups militaires.

Deux importantes entreprises de technologie militaire sont sous-traitantes du JADC2 : Anduril et PalantirLes deux entreprises ne cachent pas leurs ambitions de perturber le secteur de la défense, de détrôner les principaux leaders actuels et de s'octroyer une part de monopole du marché afin de garantir des gains croissants.

Palantir a mettre ses yeux sur le fait de « devenir le système d’exploitation central de tous les programmes de défense américains » ; Anduril a déclaré qu’il deviendrait «après tout ce qui est sur la liste [du ministère de la Défense]« afin de dominer le secteur. Pour les deux entreprises, c’est la bataille – la bataille pour la croissance.

Comme le dit Anduril's Luckey : «il faut se battre et gagner dans plusieurs domaines(Il entend cela en termes de stratégie d'entreprise, et non de champs de bataille réels). De même, le PDG et cofondateur de Palantir, Alex Karp, a reconnu que, pour ouvrir le marché de la défense, il est fier de «ont été traînés, frappés, cajolés et humiliés« Divers législateurs, décideurs politiques et gouvernements doivent contribuer à la réalisation de cet objectif. Agissez vite et cassez des choses.

Créer une licorne exige un effort concerté et une attitude agressive de la part de ceux qui ont le plus à gagner financièrement dans ce domaine. La meilleure façon d’y parvenir est de s’allier à d’autres acteurs partageant les mêmes idées. Dans le paysage actuel du capital-risque de défense, les fondateurs et les bailleurs de fonds sont étroitement liés.

Peter Thiel, par exemple, est cofondateur de Palantir. Il dirige également la société de capital-risque Founders Fund, qui a investi dans Space X, Anduril et Scale AI, entre autres. La société de capital-risque Andreessen Horowitz finance également SpaceX, Anduril, Shield AI et Skydio. Les dirigeants de ces sociétés de capital-risque entretiennent des liens de longue date entre eux. De même, il existe des liens entre les entreprises. Anduril, par exemple, a été fondée par d’anciens employés de Palantir qui ont mis à profit leur expérience de Palentir et l’ont appliquée à Anduril. Palmer Luckey, ancien d’Oculus Rift, a été nommé PDG charismatique et franc.

Peter Thiel et Eric Schmidt (ancien PDG de Google et président de la Commission de sécurité nationale américaine sur l'intelligence artificielle) sont investir au sein de l'America's Frontier Fund, etc. Il existe un réseau très soudé et très bien connecté de financiers et de startups qui travaillent tous pour doubler le message clé : le secteur de la défense a besoin de disruption et nous sommes ceux qui doivent faire bouger les choses.

Lors d'un récent panel donner des preuves Les représentants de cinq start-ups militaires ont été invités à siéger au Comité des forces armées américaines. Chacune d'entre elles était financée par la société de capital-risque Andreessen Horowitz ou était affiliée à cette société.

Lors de l'audition du Comité des forces armées américaines, le directeur technique de Palantir, Shyam Sankar, a témoigné prôner « davantage de folie » et « laisser régner le chaos » dans le processus d’acquisition et d’approvisionnement militaire, afin que les incitations nécessaires à l’innovation puissent être encouragées par la concurrence interministérielle.

Les limitations réglementaires, pense-t-il, « vous limitent à la surveillance » et il « accepterait volontiers plus d’échecs si cela signifiait que nous aurions plus de succès catastrophiques ». Le type de succès que cela pourrait être, ou quelles sont les implications en cas d’échec, reste sans réponse, mais il est clair que le CTO de Palantir parle avec une logique de capital-risque à l’esprit. Et, selon un récent sondage américain, Rapport du Conseil d'innovation de la Défense, il semble que le gouvernement soit prêt à accepter davantage de risques et à fournir une couverture supérieure à ces « non-conformistes ».

Le récit de la « crise »

Outre la création de startups à fort potentiel, il existe de nombreuses façons d’adapter le secteur de la défense aux besoins des entrepreneurs de la Silicon Valley et de leurs bailleurs de fonds. Le pouvoir des récits joue également un rôle important dans ce domaine. Les gestionnaires de capital-risque et leurs startups écrivent souvent des éditoriaux de grande envergure dans lesquels les On déplore le mauvais état de la défense (américaine), dans lequel le besoin de innovation accélérée est soulignée, et dans laquelle la possibilité que les États-Unis puissent « très probablement » se retrouver impliqués dans « une guerre sur trois fronts avec la Chine, la Russie et l’Iran » est évoqué. En bref, une histoire d’urgence est racontée, ce qui contribue à valoriser les entreprises qui semblent capables de répondre à la crise imminente.

Un deuxième pilier de la refonte structurelle de la défense consiste à employer un réseau complexe d’anciens employés du gouvernement qui servent soit de lobbyistes, soit de conseillers ayant des liens étroits avec le gouvernement.

Ancien membre du Congrès républicain Mike Gallagher, par exemple, est devenu chef des opérations de défense de Palantir en août 2024 et ancien conseiller à la sécurité nationale HR McMaster est désormais conseiller principal de Shield Capital. Il existe de nombreux autres «Porte tournante" des moments où des experts crédibles prêtent leur autorité aux nouvelles startups. Le secteur des startups technologiques militaires, comme la plupart des créations de la Silicon Valley, détient un certain prestige et l'argent est également attrayant.

Anduril, ayant appris de Palantir, a embauché une flopée de lobbyistes dans le première semaine, dépensant plus d’argent pour «avocats et lobbyistes que les ingénieurs" comme l'a noté Luckey dans une récente interview avec The Economist.

Avec cela, Anduril adopte une manière relativement traditionnelle de façonner le paysage de la défense, qui est également utilisée par les principaux entrepreneurs de la défense qui ont, comme le reconnaît Anduril dans un Article de blog 2022, une incitation « à investir massivement dans des équipes d’avocats et de lobbyistes pour façonner les exigences du programme en fonction de la technologie existante de l’entreprise ».

Anduril et ses bailleurs de fonds font désormais exactement la même chose, en l'adaptant à leur propre suite de technologies. Les avocats sont souvent employés non seulement pour superviser les fusions, les acquisitions et les partenariats, mais aussi pour utiliser la loi comme un instrument pour imposer des réformes.

L'objectif principal des procès de SpaceX et Palantir contre l'armée et l'armée de l'air américaines que j'ai mentionnés plus tôt n'était pas nécessairement de gagner (le procès de Space X n'a ​​pas été couronné de succès, celui de Palantir l'a été), mais d'ouvrir l'espace pour une refonte des acquisitions et les deux procès ont atteint exactement cet objectif.

Une stratégie visant à créer un sentiment d’urgence, à redoubler d’efforts auprès des lobbyistes et à créer la possibilité structurelle d’une refonte de la défense est désormais bien en cours. Pour être clair, je ne dis pas que le secteur de la défense ne bénéficierait pas d’une modernisation ou d’une restructuration. Je ne dis pas non plus que tous les produits des start-ups militaires sont inutiles ou non durables. Je ne cherche pas non plus à opposer les grands noms à la nouvelle dynamique du capital-risque et à leur focalisation sur la croissance.

Mais ce qui mérite d’être examiné, à mon avis, c’est la dynamique en jeu avec ces nouvelles entreprises et leurs priorités et intérêts implicites, car ils façonneront les pratiques et les priorités. Et là où il y a des perturbations, il faut s’attendre à un certain niveau de rupture. Et cela prend une tournure différente lorsqu’il s’agit de vie ou de mort.

Débris de perturbation

La disruption du secteur de la défense est bien engagée et les efforts pour le modeler à l'image de la Silicon Valley ont porté leurs fruits ces dernières années avec un certain nombre de résultats concrets. Le programme JADC2 mentionné plus haut en est un. D'autres sont évidents dans des programmes comme le programme de défense du ministère américain de la Défense Initiative de réplicateur, qui intègre les objectifs, les échéanciers et les produits que les startups militaires de la Silicon Valley ont à offrir.

Haut niveau responsables de la défense répètent les arguments de l'industrie du capital-risque et de divers programmes d'acquisition se sont adaptés pour s'adapter la vitesse et l'échelle nécessaires. Ces entreprises ont la l'oreille des décideurs politiques et les exigences d’un « quasi-spirituel »Réforme de la défense« trouvent un public croissant.

Alors quelles sont les conséquences possibles ?

Lorsque Uber a bouleversé le secteur du transport privé, il a laissé dans son sillage une série de des lois du travail érodées, les droits des travailleurs et les dispositions relatives aux soins de santé pour les conducteurs. Lorsque AirBnB a bouleversé le secteur de l'hébergement, cela a entraîné augmentation des prix de location dans les destinations touristiques populaires. Lorsque l'on tente de créer un monopole, il y a toujours des conséquences sociales et politiques. Souvent, ces conséquences sont prévisibles, parfois elles ne le sont pas.

La perturbation du processus d’acquisitions dans le secteur de la défense se fait, au minimum, au détriment d’une plus grande surveillance du processus d’acquisitions. Le secteur technologique n’est pas connu pour son appréciation des limites réglementaires. Bien au contraire. Certains des bailleurs de fonds les plus importants du nouveau paysage des start-ups militaires sont le plus farouchement opposé à toute type de réglementation.

Le poids lourd du VC Marc Andreessen, par exemple, a écrit un manifeste techno-optimiste dans lequel il désigne la gestion des risques, les mesures de confiance et de sécurité et les principes de précaution comme « l’ennemi ».

Moins de réglementation signifie moins de contrôle et de responsabilité, non seulement en matière de dépenses, mais aussi en ce qui concerne la manière dont certaines technologies sont utilisées et où elles le sont, ainsi que leurs effets. C'est une évidence.

Mais il existe de nombreuses autres conséquences tout à fait plausibles que l’acquisition et le déploiement accélérés de technologies militaires destinées au combat pourraient entraîner. L’une d’entre elles est le recentrage sur le risque et l’expérimentation.

Les technologies actuelles des startups militaires, comme les drones et les systèmes d'aide à la décision basés sur l'IA, sont testées et améliorées en direct et pendant les conflits en cours, comme dans la guerre entre la Russie et l'Ukraine, mais aussi à Gaza. prototypage qui devient de plus en plus important et qui nécessite un champ de bataille actif pour tester, itérer et optimiser efficacement les technologies.

Cela signifie également qu’il est possible que des technologies inadaptées soient déployées, uniquement pour les tester et les améliorer au fur et à mesure. Cela normalise, voire encourage, le lancement et la vente de produits d’IA défectueux et potentiellement inadéquats, qui causeront inévitablement des dommages à des civils innocents pris dans la ligne de mire d’un conflit.

Nous pouvons le constater en ce moment même avec la volonté des entreprises technologiques de vendre leurs grands modèles linguistiques aux organisations militaires. Scale AI, par exemple, s'est associée à Meta pour vendre un produit LLM, Lama de défense, à des fins de défense. L'entreprise affirme que l'intervention humaine est « absolument nécessaire » pour le système.

Mais étant donné le fait bien connu Les LLM sont sujets à ce que l’on appelle des hallucinations, mais les chances que ces technologies fonctionnent exactement comme annoncé sont minces dans un contexte aussi complexe et dynamique que celui de la guerre. Cela pourrait nuire à ceux qui se trouvent pris au milieu de cette expérimentation, de ces réglages et de ces tests en direct. Il est particulièrement préoccupant que la technologie ne soit pas adaptée à l’inattendu, aux éléments moins calculables ou moins prévisibles de la guerre. Cela inclut les menaces terroristes émergentes potentielles ou les actions d’États souvent considérés comme irrationnels, comme la Corée du Nord, par exemple.

Le PDG d'Anduril, Luckey, l'a admis dans l'interview que j'ai donnée en ouverture. Il a reconnu que la logique sur laquelle ses armes sont construites s'effondre face à des ennemis potentiels qui évitent l'approche théorique du jeu sur laquelle repose une grande partie de la logique de défense de l'IA : « Il est très difficile de s'engager dans la théorie des jeux avec des gens qui poursuivent une stratégie optimale non basée sur la théorie des jeux… C'est comme jouer au monopole avec la personne qui va abandonner et donner tout son argent à quelqu'un d'autre. » Une sérieuse limitation pour quelque chose d'aussi criblé de hasard que la guerre.

Cette évolution vers une logique de capital-risque a également des effets secondaires et de troisième ordre. En évoquant une menace imminente, le paysage global des risques et de la sécurité pourrait changer ; en donnant la priorité aux technologies d’armement, le financement d’autres moyens de résoudre les conflits pourrait être réduit ; en consacrant un montant croissant à des technologies qui n’ont pas encore été testées et qui ne sont peut-être pas durables, des sommes importantes qui seraient mieux utilisées ailleurs pourraient être gaspillées.

Mais nous sommes dans un pays de fiction et de licornes, où de telles considérations sont aussi spéculatives que les promesses tant vantées d’armes d’IA ou de défense de la démocratie.

Dans la Silicon Valley, la devise « Move fast and break things » (aller vite et casser des choses) implique que les problèmes qui surviennent lors du déploiement de la technologie peuvent toujours être traités et résolus ultérieurement. Dans le monde de la défense et de la guerre, les dommages causés par ce type de prise de risque ne peuvent pas être réparés aussi facilement.

The Conversation a soumis les points soulevés dans cet article aux sociétés technologiques et de capital-risque citées. Elles n'ont pas répondu à notre demande de commentaires.

Elke Schwarz, Lecteur en théorie politique, Queen Mary University of London

Cet article est republié de The Conversation sous une licence Creative Commons. Lis le article original.

Livres connexes:

De la tyrannie : vingt leçons du XXe siècle

de Timothy Snyder

Ce livre offre des leçons de l'histoire pour préserver et défendre la démocratie, y compris l'importance des institutions, le rôle des citoyens individuels et les dangers de l'autoritarisme.

Cliquez pour plus d'informations ou pour commander

Notre temps est venu: pouvoir, but et lutte pour une Amérique équitable

par Stacey Abrams

L'auteure, politicienne et militante, partage sa vision d'une démocratie plus inclusive et plus juste et propose des stratégies pratiques d'engagement politique et de mobilisation des électeurs.

Cliquez pour plus d'informations ou pour commander

Comment meurent les démocraties

de Steven Levitsky et Daniel Ziblatt

Ce livre examine les signes avant-coureurs et les causes de l'effondrement de la démocratie, en s'appuyant sur des études de cas du monde entier pour offrir un aperçu de la manière de sauvegarder la démocratie.

Cliquez pour plus d'informations ou pour commander

Le peuple, non : une brève histoire de l'antipopulisme

par Thomas Frank

L'auteur propose une histoire des mouvements populistes aux États-Unis et critique l'idéologie "anti-populiste" qui, selon lui, a étouffé la réforme et le progrès démocratiques.

Cliquez pour plus d'informations ou pour commander

La démocratie en un livre ou moins : comment ça marche, pourquoi ça ne marche pas et pourquoi y remédier est plus facile que vous ne le pensez

par David Litt

Ce livre offre un aperçu de la démocratie, y compris ses forces et ses faiblesses, et propose des réformes pour rendre le système plus réactif et responsable.

Cliquez pour plus d'informations ou pour commander

Récapitulatif de l'article:

Les capital-risqueurs de la Silicon Valley encouragent l’innovation dans le domaine de l’IA militaire tout en étendant leur éthique disruptive aux processus démocratiques. L’industrie de la défense, longtemps réticente au changement, est désormais à la merci de start-ups financées par des fonds de capital-risque qui promettent l’efficacité mais risquent le chaos. Cette même volonté de disruption a alimenté l’ingérence électorale, exploitant la faiblesse de la surveillance réglementaire et donnant la priorité au profit au détriment du bien public. Alors que les systèmes militaires sont de plus en plus façonnés par une IA non testée et que la démocratie est mise à mal par les ambitions des entreprises, les enjeux n’ont jamais été aussi élevés.

hashtags:
#SiliconValley #Interférence électorale #IA militaire #Risques technologiques #Démocratie menacée