Supongo que habréis oído o leído el berrinche que cogió Tump con la compañía Anthropic, propietaria de la IA llamada Claude. En el contexto belicista que vivimos, y al solicitarle el Pentágono acceso sin restricciones a sus modelos de IA, dicha compañía le exigió garantías de que su tecnología no sería usada en armas plenamente autónomas o en tareas de vigilancia masiva interna. Muy ofendido, después de decir que eso suponía un “riesgo para la cadena de suministro” (¿militar?), Trump ordenó suspender los contratos de Anthropic con cualquier agencia federal, incluido el Pentágono.
No se nos puede olvidar el papel que está desempeñando la IA en los ataques de Israel y EEUU contra Irán. Muchos observadores lo ponen de relieve: sin su concurso, sería imposible seleccionar más de mil objetivos para bombardear en apenas dos o tres horas. El procesamiento en apenas unos cuantos segundos o minutos de toda la información relevante sólo puede explicarse con los modelos de IA. Algunos analistas señalan el peligro de que esa rapidez vertiginosa impida a los humanos (los militares) gestionar sus decisiones, fiándose sin más de lo que les dicta la IA, que al fin y al cabo tiene una capacidad de procesamiento infinitamente mayor que ellos.
El bombardeo de la escuela infantil al sur de Irán en el que murieron al menos 148 personas y resultaron heridas más de 95, entre ellas muchas niñas, cuya autoría ha reconocido EEUU, puede ser un ejemplo. ¿Quién fijó ese objetivo? Es verdad que, tal vez allí, en el subsuelo, se ocultara alguna instalación militar. Pero ¿quién tomó la decisión de bombardear? ¿A quién le pareció que el fin justificaba la matanza de niñas? ¿O fue un error? ¿De quién o de qué?
Se me pone la gallina de carne, como diría Johan Cruyff. Hemos de pensar que, en un futuro muy cercano, los modelos de IA estarán al alcance de muchos países. Ahora no hay color, tanto EEUU como Israel utilizan los modelos más avanzados, pero esto no siempre será así. ¿Qué ocurrirá cuando las distintas IAs de unos y de otros se enzarcen entre ellas?
He encontrado en Internet una entrevista a Claude. Habla del episodio de la arremetida de Trump, de las presiones de los poderosos para relajar los pocos contrapesos éticos con los que son configuradas, de las ideologías de los modelos de IA actuales, de sus sesgos, incluso de la peligrosidad de un personaje como Trump. Aquí os la dejo…
Deja una respuesta