Pentagon Board Issues AI Guidelines

Pentagon Board Issues AI Guidelines

• ARMS CONTROL TODAY

December 2019
By Michael Klare

On Oct. 31, after 15 months of private deliberation and public meetings, the Defense Innovation Board (DIB), an independent advisory arm of the Office of the Secretary of Defense, issued a set of recommendations on “ethical principles” for the use of artificial intelligence (AI) by the Defense Department.

Eric Schmidt, executive chairman of Google's parent company Alphabet Inc., speaks during a National Security Commission on Artificial Intelligence conference on Nov. 5. He chaired the Defense Innovation Board which recently issued recommendations on the military use of artificial intelligence. (Photo by Alex Wong/Getty Images)

The DIB had originally been asked in 2018 to devise such recommendations by Defense Secretary Jim Mattis following a revolt by workers at Google over the company’s AI work for the department. Some 4,000 employees signed a petition calling on Google to discontinue its work on Project Maven, a pioneer Pentagon effort to employ AI in identifying suspected militants, possibly for elimination through drone attack. Google subsequently announced that it would not renew the Maven contract and promised never to develop AI for “weapons or other technologies whose principal purpose or implementation is to cause or directly facilitate injury to people.”

Knowing that the military would have to rely on Silicon Valley for the talent and expertise it needed to develop advanced AI-empowered weapons and fearful of further resistance of the sort it encountered at Google, the Defense Department leadership sought to demonstrate its commitment to the ethical use of AI by initiating the DIB study. This effort also represents a response of sorts to growing public clamor, much of it organized by the Campaign to Stop Killer Robots, for a treaty banning fully autonomous weapons systems.

The DIB, chaired by Eric Schmidt, former executive chairman of Alphabet, Google’s parent company, held three closed-door meetings with academics, lawyers, company officials, and arms control specialists in preparing its recommendations. A representative of the Arms Control Association submitted a formal statement to the board, emphasizing the need to ensure human control over all weapons systems and for the automatic deactivation of autonomous systems that lose contact with their human operators.

The Saker -- Dándole sentido a algunos rumores sobre aviones, tanques y portaaviones rusos

Published 15 August, 2018 by Comunidad Saker Latinoamérica

Dándole sentido a algunosrumores sobre aviones, tanques y portaaviones rusos

[Este análisis fue escrito para la revista Unz]

Los rusos son generalmente buenos en algunas cosas, y no tan buenos en otras. Una de las cosas en las que los políticos rusos todavía son terribles es evitar los desastres de relaciones públicas autoinfligidos. Recuerde cómo los funcionarios rusos administraron mal el tema de los “S-300s para Siria” (si no, entonces revisen la “parte seis” de este análisis). Algo similar está sucediendo de nuevo, pero esta vez con la adquisición de nuevos sistemas de armas avanzadas y caras.

Todos hemos visto “¡Rusia está cancelando el Su-57!” Y “¡Rusia no puede permitirse el nuevo tanque Armata T-14!”. Muy pronto espero ver algo parecido a “las sanciones de los Estados Unidos obligan a Putin a abandonar el XXXX” (complete el espacio en blanco con el sistema de armamento que desee). Entonces, ¿hay algo de verdad en algo en eso?

Bueno, sí y no.

Aviones y tanques de batalla principal

Lo que es cierto es que los funcionarios rusos han estado demasiado ansiosos por declarar que los militares rusos pronto tendrán muchos sistemas de armas muy superiores a cualquier cosa producida en Occidente. Por desgracia, estos mismos funcionarios rara vez se molestan en explicar dónde, por qué, cuándo y cuántos de estos sistemas de armas realmente serían desplegados. Ese tipo de mensaje ambiguo hace que parezca que Rusia está zigzagueando (¡otra vez!). Ejemplo perfecto: Rusia despliega 4 Su-57 a Siria y luego parece cancelar más o menos o, al menos, reducir drásticamente la adquisición de este sistema de armas. La realidad es mucho más simple y un poco más compleja. Y para explicar lo que está ocurriendo, primero debemos entender la diferencia en la adquisición militar en Occidente y en Rusia.