¿Quién teme al lobo feroz….al lobo….al lobo?
El pasado mes de abril, OpenAI publicó el documento sobre la política industrial de la IA titulado “Industrial Policy for the Intelligence Age: Ideas to Keep People First”. Se trata de trece páginas que pretenden contener la incertidumbre y proponer una “inevitable” transición hacia una nueva era. Al revisar el documento, me quedé con varias inquietudes sobre sus intenciones y pretensiones. En esta oportunidad, quiero invitarle a reflexionar sobre este tema. Como usted ya identifica al espíritu de la columna, será desde los lentes de la psicología política y la sociología. Se extenderá en este y en los siguientes artículos de opinión, debido a la densidad que envuelve este tema complejo y que, sin duda, generará en las próximas semanas y meses muchos más insights.
Empecemos ¿Qué pensaría si un lobo se presenta ante usted como el candidato ideal para proteger el rebaño de ovejas? Algo así es lo que recomienda el texto de OpenAI: la empresa que genera altos riesgos es la que ahora se presenta como la voz legítima, con un sesgo de autoridad que hace que se considere capaz de proponer “soluciones” o “alertar” sobre lo que produce. El documento, entonces, se convierte en una estrategia de legitimación de poder, esto quiere decir que antes de ser cuestionada por sus políticas, acciones o debilidades, la empresa se muestra “preocupada” por las consecuencias de sus actos.
Desde hace algunos años, intelectuales como Garfield Benjamin ya advertían sobre este tipo de estrategia discursiva por parte de las grandes empresas tecnológicas. Lo interesante es que su estudio abarca ejemplos similares que se extienden hasta las prácticas de dominación de los siglos XVIII y XIX, en las que el uso de métricas como dispositivos de poder promovía la administración de la vida —o de la muerte— de la población. Esta estrategia de medición se encarga, entonces, de desplazar el riesgo hacia el individuo. Se deslinda de responsabilidades mientras, al mismo tiempo, acumula capital y se beneficia de todas las ventajas posibles.
Pensemos, entonces, en las consecuencias de la filtración de datos. ¿Recuerda que hace unas semanas conversamos sobre los neuroderechos y lo que sucedería con sus datos personales? Bueno, ahí, por ejemplo, las grandes empresas vinculadas a la IA lo sentirán mucho y, como máximo, se disculparán. Pero quienes asumiremos la avalancha de acciones derivadas de la clasificación que otros hicieron sobre lo que valen —o no— nuestras vidas y nuestras prácticas, seremos nosotros. En palabras de Achille Mbembe, estaremos inmersos en lógicas de necropolítica: espacios en los que nuestra vida será clasificada, desechable o prescindible.
Al evidenciar cínicamente nuestros miedos y preocupaciones, las empresas de IA pretenden reducir la incertidumbre y darnos atisbos de esperanza o seguridad. Para esto, incluso están desembolsando fondos para desarrollar ideas que resuelvan esta “transición”. Pero, sinceramente, volvamos a la pregunta: ¿usted cree que el lobo puede cuidar a las ovejas? ¿No le parece sospechoso?
Desde la psicología política, la intención de esta empresa de IA puede reconocerse como una “estrategia de legitimación cognitiva por anticipación catastrófica”. Esto sucede cuando un actor se posiciona como autoridad legítima y se presenta como el único arquitecto capaz de brindar la solución. Este mecanismo funciona de dos formas: 1. Activa la amenaza difusa; dice en voz alta lo que todos ya intuimos y tememos. 2. Luego activa la memoria colectiva de transiciones tecnológicas modernas romantizadas, para presentarse como el actor que mejor conoce el problema y, por lo tanto, el único capaz de resolverlo, de esta forma absorbe cualquier discurso que debería provenir de un campo regulatorio como el Estado u otra instancia civil-social. Entonces, ¿usted cree que si sucede una falta podrá ser sancionado? No, porque desde el inicio se presentó como juez y como parte.
No todo está perdido, le cuento que más bien, existen muchos intelectuales trabajando seriamente en esta materia. Le sugiero que exploremos una ventana desafiante para repensar este tema con un sentido esperanzador que nos permita movernos de la indefensión, le invito entonces a seguirme en el siguiente artículo.