Google construye vínculos con los militares de USA.

  • 2
  •  
  •  
  •  
  •  
  •  
  •  
  •  

En julio pasado, 13 comandantes militares estadounidenses y ejecutivos de tecnología se reunieron en el puesto avanzado del Silicon Valley del Pentágono, a dos millas de la sede de Google. Fue la segunda reunión de un consejo asesor creado en 2016 para asesorar a los militares sobre las formas de aplicar la tecnología al campo de batalla. Milo Medin, un vicepresidente de Google, convirtió la conversación en inteligencia artificial en los juegos de guerra. Eric Schmidt, ex jefe de Google, propuso usar esa táctica para trazar estrategias de enfrentamientos con China en los próximos 20 años.

Unos meses más tarde, el Departamento de Defensa contrató a la división en la nube de Google para trabajar en Project Maven, un esfuerzo arrollador para mejorar sus drones de vigilancia con tecnología que ayuda a las máquinas a pensar y ver.

El pacto podría generar millones en ingresos para el gigante de Internet de Alphabet Inc. Pero dentro de una compañía cuyos empleados reflejan en gran medida las sensibilidades liberales del Área de la Bahía de San Francisco, el contrato es tan popular como el presidente Donald Trump. No desde 2010, cuando Google se retiró de China después de enfrentarse con los censores del estado, tiene un problema tan molesto para la base. Casi 4.000 empleados de Google, de un total de Alphabet de 85.000, firmaron una carta pidiendo al director ejecutivo de Google, Sundar Pichai, que elimine el contrato del Proyecto Maven y detenga todo el trabajo en “el negocio de la guerra”.

La petición cita la historia de Google de evitar el trabajo militar y su famoso eslogan “no hacer el mal”. Uno de los laboratorios de investigación de AI de Alphabet incluso se ha distanciado del proyecto. Los empleados en contra del acuerdo lo ven como un vínculo inaceptable con una administración estadounidense que muchos se oponen y un desconcertante primer paso hacia máquinas de matar autónomas. Cerca de una docena de empleados están renunciando en protesta por la participación continua de la compañía en Maven, informó el lunes Gizmodo.

La reacción interna, que coincide con una protesta más amplia sobre cómo Silicon Valley usa datos y tecnología, ha llevado a Pichai a actuar. Él y sus lugartenientes están redactando principios éticos para guiar el despliegue de la poderosa tecnología de inteligencia artificial de Google, según personas familiarizadas con los planes. Eso formará su trabajo futuro. Google es una de varias compañías que compiten por un contrato en la nube del Pentágono por valor de al menos $ 10 mil millones. Un portavoz de Google se negó a decir si eso ha cambiado a la luz de los conflictos internos por el trabajo militar.

El desafío de Pichai es encontrar una forma de reconciliar las raíces pesimistas de Google con su futuro. Después de haber pasado más de una década desarrollando el arsenal más formidable de investigación y capacidades de inteligencia artificial de la industria, Google desea combinar esos avances con su negocio de computación en la nube de rápido crecimiento. Los rivales se apresuran a cerrar tratos con el gobierno, que gasta miles de millones de dólares al año en todo lo relacionado con la nube. Ninguna entidad del gobierno gasta más en esa tecnología que los militares. El director de Medin y Alphabet, Schmidt, que forma parte de la Junta de Innovación de Defensa del Pentágono, presionó a Google para que trabaje con el gobierno en temas de contraterrorismo, ciberseguridad, telecomunicaciones y más.

Para dominar el negocio de la nube y cumplir el sueño de Pichai de convertirse en una “compañía con AI primero”, a Google le resultará difícil evitar el negocio de la guerra.

Dentro de la compañía no hay un mayor defensor de trabajar con el gobierno que el jefe de Google Cloud, Diane Greene. En una entrevista en marzo, defendió la asociación del Pentágono y dijo que es incorrecto caracterizar el Proyecto Maven como un punto de inflexión. “Google ha estado trabajando con el gobierno durante mucho tiempo”, dijo.

El Pentágono creó Project Maven hace aproximadamente un año para analizar montones de datos de vigilancia. Greene dijo que su división ganó solo una “pequeña parte” del contrato, sin proporcionar detalles. Describió el papel de Google en términos benignos: escaneando imágenes de drones para minas terrestres, por ejemplo, y luego señalándolas al personal militar. “Salvar vidas es una especie de cosas”, dijo Greene. El software no se usa para identificar objetivos o tomar decisiones de ataque, dice Google.

Muchos empleados consideran que sus racionalizaciones no son convincentes. Incluso los miembros del equipo de AI han expresado sus objeciones, diciendo que temen que trabajar con el Pentágono pueda dañar las relaciones con los consumidores y la capacidad de reclutamiento de Google. En la conferencia de desarrolladores de E / S de la compañía la semana pasada, Greene le dijo a Bloomberg News que el problema había absorbido gran parte de su tiempo en los últimos tres meses.

La incomodidad de Googlers con el uso de la IA en la guerra es antigua. El jefe de inteligencia artificial, Jeff Dean, reveló en la conferencia de E / S que firmó una carta abierta en 2015 oponiéndose al uso de la IA en armas autónomas. Proporcionar a los militares con Gmail, que tiene capacidades de IA, está bien, pero se vuelve más complejo en otros casos, dijo Dean. “Obviamente, hay una serie de decisiones que queremos tomar como compañía”, dijo. El año pasado, varios ejecutivos, incluidos Demis Hassabis y Mustafa Suleyman, que dirige el laboratorio DeepMind AI de Alphabet, y el famoso investigador de IA Geoffrey Hinton, firmaron una carta a las Naciones Unidas en la que explicaban sus preocupaciones.

“Las armas autónomas letales … [permitirán] que el conflicto armado se dispute a una escala mayor que nunca, y en escalas de tiempo más rápidas de lo que los humanos pueden comprender”, dice la carta. “No tenemos mucho para actuar”. DeepMind, con sede en Londres, aseguró al personal que no está involucrado en el Proyecto Maven, según una persona familiarizada con la decisión. Una portavoz de DeepMind se negó a comentar.

Richard Moyes, director del Artículo 36, una organización sin fines de lucro enfocada en las armas, es cautelosa sobre las promesas de las empresas de que los humanos -no las máquinas- aún tomarán decisiones letales. “Esto podría ser un trampolín para dar a esas máquinas una mayor capacidad para determinar qué es o qué no es un objetivo”, dijo. Moyes, socio del grupo DeepMind Ethics & Society, no ha hablado con Google o DeepMind sobre el proyecto del Pentágono.

Los sistemas militares de IA ya cometieron errores. Nighat Dad, director de Digital Rights Foundation, cita el caso de dos reporteros de Al Jazeera que presentaron denuncias legales de que el sistema de vigilancia Skynet del gobierno de EE. UU. Los colocó erróneamente en una “lista de asesinatos”. Papá envió una carta en abril a Pichai pidiéndole a Google que cancelara el contrato del Proyecto Maven, pero dice que no ha recibido una respuesta.

La principal preocupación para algunos expertos en inteligencia artificial es que la tecnología existente todavía no es confiable y los hackers podrían tomarla para tomar decisiones en el campo de batalla. “No confiaría en ningún software para tomar decisiones de misión crítica”, dice Gary Marcus, investigador de AI en la Universidad de Nueva York. El Proyecto Maven, dice Marcus, cae en un “área gris” ética ya que el público no sabe cómo se usará el software. “Si Google quiere dedicarse a hacer cosas clasificadas para el ejército, el público tiene derecho a preocuparse por el tipo de empresa en que se está convirtiendo Google”, dice. La división de nube de Google no está certificada para trabajar en proyectos clasificados. Un portavoz de Google se negó a decir si la compañía obtendrá esa certificación.

Durante muchos años, Google generalmente salió de los contratos gubernamentales de las compañías que adquirió. En 2011, el año en que Google lo compró, la iniciativa de reconocimiento facial Pittsburgh Pattern Recognition facturó los US $ 679.910, según los datos del Gobierno de Bloomberg. El año siguiente, los ingresos de Google del gobierno de los EE. UU. Fueron menores a eso. (Estas cifras excluyen el gasto militar en anuncios Google, que son números clasificados y probablemente equivalen a muchos millones de dólares al año). El fabricante de robots Boston Dynamics generó más de $ 150 millones en contratos federales durante 13 años antes de ser comprados por Google a finales de 2013. El el próximo año, los contratos terminaron. (Google acordó vender Boston Dynamics en 2017).

Desde que Greene fue reclutado para administrar su unidad de nube en 2015, Google se ha vuelto menos aprensivo sobre el trabajo del gobierno. El año pasado, las agencias federales gastaron más de $ 6 mil millones en contratos en la nube no clasificados, de acuerdo con el Gobierno de Bloomberg. Alrededor de un tercio de eso provino del Departamento de Defensa. En este momento, Amazon.com, Microsoft y Oracle son grandes jugadores. El negocio en la nube de Amazon solo generó $ 600 millones en trabajo clasificado con la Agencia Central de Inteligencia (CIA) desde 2014, según datos del Gobierno de Bloomberg.

Greene está decidido a competir por tales contratos. “Trabajaremos con los gobiernos porque los gobiernos necesitan mucha tecnología digital”, dijo en la entrevista de marzo. “Lo nuevo y lo que estamos debatiendo mucho es la inteligencia artificial”.

Después de vacilar inicialmente sobre la necesidad de políticas específicas de AI, la Administración Trump ahora se está moviendo para abrazar la tecnología, un cambio impulsado principalmente por la amenazante amenaza competitiva de China y Rusia. El 2 de abril, Project Maven recibió $ 100 millones adicionales en fondos del gobierno. Los oficiales militares han elegido el programa como una forma clave para reducir las tareas que consumen tiempo y hacer que la guerra sea más eficiente.

“Podemos confirmar que Project Maven implica trabajar con varios proveedores diferentes, y los representantes del Departamento de Defensa se reúnen regularmente con varias compañías para analizar el progreso con los proyectos en curso”, dijo la portavoz del Departamento de Defensa, la mayor Audricia Harris. “Estas deliberaciones internas son un asunto privado, por lo tanto, sería inapropiado proporcionar más detalles”. ECS Federal, el contratista que paga a Google por el trabajo del Proyecto Maven, no respondió a las solicitudes de comentarios.

El secretario de Defensa James Mattis visitó Google en agosto y se reunió con Pichai, Greene y el cofundador Sergey Brin. Discutieron la nube de la compañía y los avances de la inteligencia artificial, así como otras oportunidades, como encontrar nuevas formas de compartir el espectro de telecomunicaciones propiedad de los militares, otro proyecto de Google. (Schmidt, quien renunció como presidente de Alphabet en diciembre, dijo recientemente a Defense One que está excluido de la toma de decisiones sobre cualquier trabajo de Google con el Pentágono. Las notas de la reunión de la Junta de Innovación de Defensa de julio se hicieron públicas en línea.) Mattis también visitó Microsoft y Amazon durante el viaje.

Algunos ejecutivos de Google consideran que los lazos más cálidos con el gobierno debieron haberse retrasado. Hace cinco años, las relaciones se tensaron luego de que Google objetó verbalmente las revelaciones, descubiertas por Edward Snowden, de que la Agencia de Seguridad Nacional había intervenido en las redes de la compañía. Un alto ejecutivo involucrado en conversaciones recientes dice que uno de los objetivos era evitar el tipo de “competencia de pissing” entre Google y el gobierno que ocurrió después de las revelaciones de Snowden.

Pero la brecha dentro de la empresa no será superada fácilmente. En varias reuniones de Google desde marzo, Greene y otros ejecutivos fueron salpicados con preguntas sobre los méritos del Proyecto Maven. Uno dice que una reciente justificación para seguir adelante fue: si no hacemos esto, un rival menos escrupuloso lo hará. “El argumento que han estado usando es terrible”, dice esta persona. Otro empleado dice que la petición anti-Proyecto Maven, informada anteriormente por The New York Times, es una de las más grandes en la historia de la compañía, que es famosa por fomentar el debate interno. Gizmodo informó por primera vez al personal de Google sobre la implicación de la compañía. Pichai ha abordado el problema con los empleados, pero aún tiene que responder a su demanda para cancelar el contrato.

El CEO de Google no mencionó el trato militar en la conferencia de E / S. Varios ejecutivos dijeron en privado que confiaban en Pichai para tomar la decisión adecuada. El acuerdo tampoco se presentó en la sesión de marquesina del evento sobre inteligencia artificial. Fei-Fei Li, que dirige AI para Google Cloud, hizo una breve mención de ética. “Hablamos mucho sobre la construcción de tecnología benevolente”, dijo. “Nuestra tecnología refleja nuestros valores”. Greene, sentada junto a ella en el escenario, asintió con la cabeza.

Fuente: www.savannahnow.com

mayo 15, 2018