Un milliardaire de Facebook utilise une faille gouvernementale pour placer discrètement les adeptes du mouvement controversé de « l’altruisme efficace » dans des rôles clés en matière de sécurité nationale au sein de l’administration Biden.

Dustin Moskovitz, le colocataire de Mark Zuckerberg à Harvard, paie les salaires d'un groupe d'assistants du Conseil de sécurité nationale de la Maison Blanche, du Pentagone et du ministère du Commerce dans le cadre d'un arrangement qui place les partisans du mouvement au cœur du gouvernement.

« L’altruisme efficace » (connu sous le nom d’EA) a gagné des adeptes milliardaires de la Silicon Valley pour sa philosophie consistant à encourager les gens à gagner autant d’argent que possible puis à le donner à ce qu’il considère comme de nobles causes.

Parmi les dirigeants du mouvement figurent Moskovitz, son épouse Cari Tuna et le cofondateur estonien de Skype, Jann Tallinn, tandis qu'Elon Musk a déclaré que même s'il n'était ni un adepte ni un bailleur de fonds, cela correspondait étroitement à sa philosophie.

Mais il a été plongé dans la crise à l’automne par son défenseur le plus en vue, l’ancien roi de la cryptographie Sam Bankman-Fried.

Aujourd’hui, le mouvement tente discrètement de reconstruire les liens avec le pouvoir, y compris au sein de la Maison Blanche – et ces rôles reflètent l’intérêt croissant de l’altruisme efficace pour l’IA, contre lequel ses dirigeants se sont prononcés.

Le principal bailleur de fonds de la tentative d’avoir ses partisans à la Maison Blanche est Moskovitz, 39 ans, dont la fortune Facebook vaut 18 milliards de dollars et dirige Open Philanthropy, qui distribue à son tour de l’argent à un réseau de groupes de réflexion et de projets associés.

L’une de ces organisations à but non lucratif, le Centre pour les technologies émergentes de l’Université de Georgetown, connu sous le nom de CSET – auquel Open Philanthropy a donné 55 millions de dollars – paie les salaires des « boursiers » qui occupent des postes gouvernementaux avec un accès de sécurité de haut niveau.

Parmi les boursiers se trouve Andrew Lohn, directeur du Conseil national de sécurité pour les « technologies émergentes ».

Les autres boursiers pour lesquels ils paient – ​​les salaires qu’ils reçoivent ne sont pas divulgués – ont également des rôles qui semblent proches du travail du gouvernement sur l’IA.

Diana Gelhaus, boursière du CSET, est actuellement conseillère principale en matière de talents au sein du bureau principal de l'intelligence numérique et artificielle du ministère de la Défense, ce qui lui donne un mot crucial sur le choix des embauches du Pentagone pour les projets d'IA.

Emily Weinstein est conseillère principale au bureau du sous-secrétaire à l'industrie et à la sécurité du ministère du Commerce.

Will Hunt, un ancien membre du personnel du CSET, a été conseiller spécial auprès du bureau de la loi CHIPS au ministère du Commerce. Le CHIPS Act vise à ramener la fabrication de semi-conducteurs aux États-Unis, en particulier pour l’informatique IA.

Ils peuvent être payés par des organisations à but non lucratif extérieures grâce à une loi peu connue, la loi sur le personnel intergouvernemental de 1970, qui facilite le recrutement à court terme d'experts externes, contournant les procédures normales.

« Je considère ces bourses comme une opportunité de formation importante pour les chercheurs, c'est pourquoi le CSET finance des bourses d'un an pour notre personnel conformément aux procédures établies, telles que la Loi sur le personnel intergouvernemental », a déclaré Dewey Murdick, directeur exécutif du CSET. e-mail à La Poste.

Un porte-parole d'Open Philanthropy a déclaré que l'organisation était retirée du travail du CSET – et a déclaré que les membres du personnel de l'administration Biden n'étaient pas nécessairement des idéologues d'EA.

« Bien qu'Open Philanthropy soit fier d'avoir soutenu les recherches de Georgetown sur des sujets tels que la manière dont l'IA peut être utilisée dans des contextes de sécurité nationale, il ne serait pas approprié de s'attribuer le mérite des décisions programmatiques d'un bénéficiaire indépendant », a déclaré Mike Levine, porte-parole d'Open Philanthropy. La poste.

« Le CSET est entièrement responsable du recrutement, de la recherche, de l’octroi de nouvelles subventions et des collaborations avec d’autres acteurs du monde universitaire et du gouvernement, notamment via des bourses. Nous n’avons été impliqués dans aucun de ces détachements.

Le Conseil national de sécurité n'a pas répondu à une demande de commentaires.

Mais les critiques affirment que les partisans de l’EA bénéficient d’un aperçu de la réglementation de l’IA, au moment même où les entreprises liées au mouvement de l’EA cherchent à gagner de l’argent dans ce domaine.

Une tendance actuelle en matière de gouvernance de l'IA consiste à pré-tester ou à « auditer » les modèles d'IA des entreprises.

En novembre, le président Joe Biden a signé un décret sur l'IA, rédigé avec l'aide de RAND Corporation, le vénérable groupe de réflexion californien qui a récemment reçu une injection d'argent des groupes EA.

Il a poussé l’Institut national des normes et technologies à « créer des orientations et des références pour évaluer et auditer les capacités de l’IA ».

L'une des sociétés impliquées dans le développement de systèmes d'audit est Anthropic, qui entretient depuis longtemps des liens avec le mouvement EA, notamment en obtenant des investissements de Bankman-Fried.

L’altruisme efficace a pris son essor en 2011 lorsque le philosophe d’origine écossaise William MacAskill s’est inspiré d’un essai de 1972 intitulé « Famine, Affluence and Morality » du bioéthicien australien Peter Singer et a fondé le Centre for Effective Altruism à Oxford, en Angleterre.

Il a rapidement trouvé des adeptes dans la Silicon Valley, Bankman-Fried affirmant qu'il était motivé à créer FTX et à gagner des milliards afin de pouvoir utiliser sa fortune à des fins philanthropiques – pour finalement finir reconnu coupable de fraude et risquer la prison à vie.

Les partisans du développement de l’intelligence artificielle suggèrent qu’EA a de plus en plus poussé une philosophie apocalyptique autour de l’idée d’une intelligence artificielle incontrôlée, conduisant à une scission entre celle-ci et « l’accélération efficace », un terme inventé par l’investisseur technologique Marcus Andreessen.

« Les gens d'EA se distinguent par le fait qu'ils parlent d'un tout autre sujet, dans un tout autre style », a déclaré à Politico Robin Hanson, économiste à l'université George Mason et ancien altruiste efficace.

« Ils avancent des arguments assez abstraits sur une préoccupation assez abstraite, et ils font monter les enjeux au maximum. »