La IA contribuye a un orden social particular, un orden capitalista vigente.
La IA reemplaza el trabajo y si no lo hace, lo intensifica y la amenaza de ese reemplazo ayuda a intimidar a los trabajadores. Las personas se convierten en algo prescindible o se les hace sentir que lo son. Mientras, algunos socialistas, ven en la IA una oportunidad para establecer una sociedad diferente, por ejemplo, mediante una renta básica universal, otros se oponen a esta salida porque denigra el trabajo y a la persona.
Sin embargo, lo que afecta la IA y a los seres humanos, no está limitado a la esfera de la producción y del trabajo definidos de forma estricta.
LA IA «AFECTIVA»
La IA forma parte de la producción, pero también extrae conocimiento y conforma nuestra cognición y emociones.
Desde una computación afectiva, o también llamada una IA “afectiva” o emotiva. Las tecnologías digitales intervienen a nivel personal, íntimo y emotivo. La IA emotiva se usa para discernir estados emocionales, hacer análisis de sentimientos y medir la felicidad. Por ejemplo, las empresas pueden usar el análisis de sentimientos para reconocer, monitorizar y manipular los estados afectivos de las personas. Esta es una forma de capitalismo cognitivo, pero también afectivo. Son operaciones que apuntan como francotiradores a tu personalidad. Humor, emociones, mentiras y vulnerabilidades de todo tipo conducen a formas de explotación, dominación y manipulación política. Por ejemplo, haciendo campañas políticas orientadas por los datos.
Las redes sociales también favorecen mensajes emocionalmente comprometidos. El contagio afectivo se usa para influir en las masas. Puede incrementar el extremismo y el populismo, quizás incluso conducir hasta la violencia y la guerra.
La manipulación de las emociones por motivos políticos, evoca viejas discusiones filosóficas sobre las pasiones, el afecto, las emociones, y así sucesivamente desde Spinoza hasta la filosofía actual y la ciencia cognitiva. Incluyendo discusiones sobre el papel de las emociones en la política y cuestiones relacionadas, tales como: ¿Cuál es el papel del cuerpo en la política y qué es el cuerpo político? ¿Es políticamente hablando, nuestra capacidad de ser afectados, nuestro punto débil?
COLONIALISMO DE DATOS
Otro tema controvertido que afecta a la política y a las emociones es el de la pertenencia. El sentido de la pertenencia es quizás importante en nuestras vidas, pero puede conducir al nacionalismo y al populismo. El auge de ambos también está influenciado por la IA. La forma en que la IA impacta sobre los aspectos emocionales de la política, el capitalismo y la democracia necesita una mayor investigación. Cuando se trata de adoptar una perspectiva crítica sobre la IA y el poder, el colonialismo de datos es otro término que se ha utilizado para expresar que la explotación de los humanos y de las vidas humanas mediante la IA es inaceptable desde una perspectiva teórica crítica. La apropiación de datos es entendida en ese caso a través de la historia del colonialismo, exactamente igual que el colonialismo histórico se apropió del territorio y recursos para obtener beneficios. Y colonialismo de datos, explota a los seres humanos a través de la apropiación de datos.
DEL «NUDGE» AL «INFORG»
(Un nudge es cualquier estrategia usada por los arquitectos de decisiones para modificar el comportamiento de las personas de manera predecible, no agresiva, sin prohibir ninguna de las opciones ni cambiando de manera significativa sus incentivos económicos)
El nudge es claramente problemático desde la perspectiva de la teoría crítica. El hecho de ser una forma más sutil de manipulación no la convierte en menos explotadora, ya que se usa para acrecentar exponencialmente los beneficios de una forma y en un contexto neocapitalistas. El nudge sortea la capacidad humana para la toma de decisiones y la capacidad de juicio autónomas.
La IA incrementa las posibilidades del nudge. Las técnicas del guiado algorítmico en las tomas de decisiones se usan para dar forma al contexto de elección en el que tiene lugar la toma de decisiones individual. Se habla incluso de hypernudges (hiperempujones), ya que estos se actualizan continua y generalmente, lo que conlleva implicaciones preocupantes para la democracia y la prosperidad humanas. Pero el nudge no es solo problemático debido a la influencia directa sobre el seres humanos concretos, también implica una cierta forma de considerar los seres humanos, una forma que facilita las relaciones manipulativas y explotadoras específicas que son tan preocupantes.
Algunos afirman que somos organismos informacionales o inforgs y escriben, que cuando somos inforgs, nos encontramos indefensos ante la manipulación y la modulación. Los inforgs en una vez que se hayan rediseñado para estar siempre abiertos a los flujos de datos, son las criaturas perfectas para que gobierne el hypernudge y, en consecuencia, para estar continuamente disponibles para la modulación.
Y si pensamos en tales inforgs como criaturas de ciencia ficción, entonces es bueno que seamos conscientes de que, como las emociones humanas y la heurística, la ciencia ficción también la usa el capitalismo para apoyar su sistema.
Nota: Luciano Floridi utilizó el término inforgs para describir lo que constituye una infósfera. [ 1 ] El uso de la palabra describe organismos que están compuestos de información en lugar de «entidades independientes y únicas». Esta descripción de los inforgs les permite existir en la infósfera como agentes naturales junto con agentes artificiales. Los inforgs pueden ser parte de un agente híbrido que es, por ejemplo, una familia con dispositivos digitales como cámaras digitales, teléfonos celulares, tabletas y computadoras portátiles.
Fuente:
Del libro de Mark Coeckelbergh (Filosofía política de la IA)
