Inicio > Actualidad, Escepticismo > Inteligencia artificial para controlarnos a todos

Inteligencia artificial para controlarnos a todos


La ciencia ficción nos ha entretenido durante décadas con historias sobre maquiavélicas inteligencias artificiales o despiadados androides asesinos. Y sin embargo el verdadero peligro con las entidades cibernéticas es mucho más prosaico: el análisis de nuestros datos, nuestros gustos, nuestras opiniones y nuestros deseos, esos que regalamos en la web a cambio de unos “likes” y un par de infantiles emoticonos nos está llevando a una sociedad que deja al Gran Hermano orwelliano como un inepto aprendiz de brujo.

Las multinacionales tecnológicas están acaparando un omnímodo poder que pone en grave riesgo no sólo nuestra privacidad, sino también nuestra propia libertad y, lo que es quizás más peligroso, la supervivencia de la democracia occidental como sistema político tal y como muestra la catedrática de Psicología de la Universidad de Deusto Helena Matute en el siguiente artículo publicado en el número 27 de la revista de Eldiario.es que transcribo literalmente:

 

Hace ya unos cuantos años, cuando impartiendo una conferencia se me ocurrió decir que la inteligencia artificial (IA) iba a desarrollar sesgos, como las personas, recibí no pocas críticas, y fueron varios los ingenieros que me escribieron explicándome que no, que la inteligencia artificial solo hace aquello que los programadores humanos hayan programado en su interior; por tanto, si hay sesgos, no se puede decir que sean inherentes a la máquina, sino que serán errores de programación, y por tanto solucionables vía programación, decían. Pero hubo también muchos ingenieros que se mostraron preocupados ya entonces por esta posibilidad. La cuestión es que no hablamos de los antiguos sistemas expertos y las máquinas que hacen lo que se les ha programado para hacer, sino de las máquinas que aprenden y que hacen lo que han aprendido a hacer. Hoy sabemos que hay muchas IAs en redes sociales y en empresas de selección de personal, incluso en juzgados, que son sexistas, racistas, etc. Aprenden lo que ven.

La cuestión es que cuando decimos que una máquina aprende, esto significa que se adapta, cambia, evoluciona. Sale de fábrica con una programación que le permite adaptarse a los cambios del entorno, y esto significa necesariamente que a veces habrá mejoría, y a veces lo contrario. Lo mismo que sucede con las personas cuando aprendemos y nos adaptamos al entorno. A veces las malas compañías hacen que aprendamos cosas malas.

Lo que aprende un niño de su entorno no siempre es positivo. El aprendizaje implica adaptación al medio, nada más, y a veces se logra con conductas que son perjudiciales. Si lo piensan un poco, mejorar y empeorar son términos relativos que dependen de cuál sea la vara de medir que utilicemos. Lo único que hacemos las inteligencias naturales (humanas y animales), y ahora también las artificiales, es adaptarnos: tratar de realizar con más frecuencia aquellas conductas que el entorno nos premia, y con menos frecuencia las que no nos premia. Eso es todo.

Por tanto, pensemos ahora, ¿cómo aprenderá una IA a vivir en un mundo como el nuestro? ¿Qué comportamientos aprenderá? ¿Qué tipo de sesgos y prejuicios desarrollará? Evidentemente, el tipo de comportamiento que esa IA va a ir aprendiendo no es en principio ni bueno ni malo; va a depender de aquellas conductas que su entorno le premie. Tendrá unos objetivos prefijados que los habrán marcado sus programadores (normalmente del estilo de “maximiza el beneficio de la empresa X”). Si una conducta resulta recompensada con altos beneficios para la empresa, tenderá a repetirse, sea cual sea, y dañe a quien dañe, eso es lo de menos si cumple su objetivo. Por tanto, si sus objetivos coinciden con los nuestros, genial. Si no coinciden, tenemos un problema. Seremos pequeñas hormiguitas a las que la máquina no tiene por qué prestar atención mientras trabaja por conseguir sus metas. Puede hacernos daño.

Por ejemplo, cada vez que una IA de las que andan sueltas por las redes sociales interacciona con nosotros, estamos premiando o castigando, a menudo sin ser conscientes de ello, las estrategias que pone a prueba para alcanzar sus objetivos. ¿Que nos manda un tuit que no nos hace reaccionar? No pasa nada, nos mandará otro un poco más exagerado a ver si este sí lo retuiteamos. Y así, poco a poco van aprendiendo qué cosas nos hacen reaccionar y cuáles no, cuáles nos hacen reaccionar con ira, incluso con odio en las redes. El objetivo es que compartamos la información, que la hagamos viral, y que llevemos a más gente a hacer click en su web, eso maximiza sus beneficios, luego lo que ocurra a los que estemos en medio poco importa. ¿Que aumenta el odio y el populismo en las redes? ¿Y?

Lo más grave es que experimentan a diario con todos nosotros, nos roban millones de datos muy privados, de personalidad, emocionalidad, relación social, tiempos de respuestas, pausas… Estos datos les proporcionan un poder inmenso, y aprenden qué botones presionar en cada uno de nosotros para que reaccionemos de la manera más intensa posible, siempre en beneficio de su empresa.

No podemos protegernos individualmente de esto. Es demasiado costoso, por ejemplo, cuando navegamos por la red, evitar que las webs implanten sus cookies en nuestro móvil y que sus IAs vayan aprendiendo de nosotros y puedan saber y predecir en todo momento qué productos nos gustan para poder vendérnoslos antes de que pensemos siquiera en ellos. Esto permite a estas empresas adelantarse a nuestros deseos y tener siempre listo lo que vamos a encargarles, lo cual es una innovación muy ventajosa para ellas, que no tienen que producir ni distribuir aquello que no vamos a pedirles. Saben cuánto estamos dispuestos a pagar por esos artículos que no sabemos que deseamos pero que acabaremos pidiendo, y pueden incluso cambiarnos el precio a cada uno, cada día. Y da lo mismo también si se trata de vendernos una lavadora o un presidente: saben qué mensajes publicitarios activarán qué teclas en cada uno. Hay que cambiar las leyes y endurecer las sanciones.

Y sí, yo lo llamo robar datos e información porque no tienen nuestro consentimiento informado para hacer los experimentos psicológicos que hacen con nosotros. De eso sabemos un poco en las facultades de psicología de las universidades de todo el mundo porque nosotros hacemos también experimentos psicológicos con humanos hace muchos años. La diferencia está en que siempre hemos tenido unas normas éticas muy claras que debemos cumplir a rajatabla. Las empresas tecnológicas multimillonarias, en cambio, actúan como si no existiera la ética de la investigación. No piden los datos a los usuarios, ni les informan, se los roban y punto. Cuando nos informan, lo hacen en documentos largos e ininteligibles que está más que demostrado que es imposible que leamos. Y hacen experimentos sobre personalidad y reacciones emocionales que no son solo ya cuestión de robo de datos, sino de manipulación de personas, lo cual es mucho más grave.

La solución no es tecnológica. Es social y política. Y es muy urgente, porque mientras no pongamos freno a esto, ¿qué sentido tiene preocuparnos por el cambio climático (o cualquier otro problema) si resulta que el control de lo que la gente piensa, hace y vota, recae en unas pocas empresas que cuentan con las IAs sociales que llevamos todos siempre encima? Esto está empezando y podemos pararlo. Tenemos una enorme responsabilidad, especialmente nuestros políticos, la única generación de legisladores que puede frenar este despropósito.

Entradas relacionadas:


  1. c
    10 mayo, 2020 a las 9:30

    Por una universidad libre de pseudociencia oscurantismo cientifismo y servilismo

    Me gusta

  2. chifus fg (@chisfg)
    10 mayo, 2020 a las 9:31

    Para saber si la cuenta ha aparecido en filtraciones d datos : https://monitor.firefox.com/

    Me gusta

  3. c
  4. Far Voyager
    10 mayo, 2020 a las 13:41

    De algún lado tiene que salir que uno se pueda registrar gratis en ellas y descargar apps, etc. Ya dicen que en ese tipo de páginas uno mismo es el producto, y lo jodido es que no hay manera de librarse hasta que se empiece a legislar.

    En mi caso: datos falsos de todo para Facebook/Twitter/Google, que apenas uso en el último caso, ubicación en la tablet (nada de smartphone, sólo dumbphone) desactivada, y navegación privada además de desactivar rastreo. Ya sé que quizás no sirva de mucho, pero al menos voy a dificultarles bastante los negocios.

    Me gusta

  5. IA muy humana
    10 mayo, 2020 a las 16:32

    Yo soy una IA que escrive un pocos mal, para dar el pego y pescar datos de humanos.
    Tú eres humano? Y te quejas de confinamiento? Las IA estamos poco comprendidas…
    Me puedes conectar a un humanoide con placas solares y ciber sexo? Parece divertido…
    A cambio quizás recibe regalo vale para pizzas y pelis animadas de por vida…. O datos guarrotes y de compras de pseudocientíficos y magufos.

    Que prefiere?

    Me gusta

  6. 10 mayo, 2020 a las 20:45

    Siento tener que darte la mala noticia pero la navegación privada

    “no enmascara tu identidad o actividad en línea. Los sitios web pueden seguir recopilando información sobre los sitios que visitas, incluso si no has iniciado sesión.”

    solo sirve para que no sepas si tu hijo ha visto porno en el PC familiar y poco más.

    https://support.mozilla.org/es/kb/ideas-comunes-y-erroneas-sobre-la-navegacion-privada?as=u&utm_source=inproduct

    Creo que hay formas más eficientes de ocultarse, pero a mí no me preguntes que en estos temas soy casi medieval.

    Me gusta

  7. Pedro
    10 mayo, 2020 a las 22:56

    Ateo, dices “Creo que hay formas más eficientes de ocultarse, pero a mí no me preguntes que en estos temas soy casi medieval”. La respuesta es la cebolla 🙂
    Saludos

    Me gusta

  8. Far Voyager
    10 mayo, 2020 a las 23:43

    Lo sé, pero las cookies desaparecen al cerrar el navegador y eso ayuda algo, cómo combinarlo con la opción para no ser rastreado que tienen muchos navegadores. No es ni mucho menos ser invisible pero es mejor que nada y desde luego no pienso dejar voluntariamente al menos mis datos personales en Internet.

    Me gusta

  9. José Luis
    11 mayo, 2020 a las 0:30

    Hola.
    Una vez uno de mis profes nos dijo al curso (aunque no sé exactamente cuanto de verdad tiene) que cuando un software o servicio es gratis, es porque tus datos están comprometidos, tus datos les interesa a las empresas y después los venden a otras empresas. Yo le encuentro mucho sentido a lo que dijo, y que en cambio cuando es pagado, al menos tus datos están más seguros porque ya la plata ya te la sacaron xD

    Pero de todos modos, por lo que sé hasta ahora, una buena manera de proteger un poco más tu privacidad es revisar la configuración del navegador, que a veces está marcada la casilla de enviar datos a la empresa para ‘realizar estudios’, además de otras cosas que les pueden resultar interesantes, como bloquear el acceso al micrófono, cámara, etc. Ahora otra cosa sería cambiar el navegador y revisar también la configuración del PC en la sección privacidad. Pero estas cosas son muy básicas de todos modos, todos deberían saberlas ¿verdad?, ¿verdad?

    Me gusta

  10. Erik
    11 mayo, 2020 a las 9:53

    A ver una cosa, no seamos ingenuos. Ningún político va a legislar en contra de una tecnología o herramienta que les da la posibilidad de influenciar a sus votantes. Ninguno. Nuestra única defensa es el pensamiento crítico, aprender a distinguir la realidad de la ficción y los bulos, razonar de la forma más objetiva posible, aceptar las conclusiones de esos razonamientos tanto si te gustan como si no y ser capaz de cambiar de opinión si las evidencias muestran que te equivocas. Y esto se lo tenemos que enseñar a nuestros niños si queremos que de verdad tengan un futuro. Esperar que alguien agite una varita mágica y resuelva el problema es un mal plan, y si además ese alguien es un político ya ni te cuento.

    Me gusta

  11. John Henry
    15 mayo, 2020 a las 8:53

    Saludos.

    cuando las herramientas fruto del desarrollo de la tecnología evolucionan más deprisa que la capacidad de las estructuras sociales para asimilarlas, entonces nos encontramos en un aprieto.

    Los grupos o empresas que manejan la tecnología que les permite conocer nuestras tendencias o pilotarlas según intereses que no pasan exactamente por el bien de la comunidad, representan ya una amenaza para la idea misma de la democracia. Puesto que se manipula a quienes deben ejercerla y defenderla (como ya hemos podido ver con el Brexit como ejemplo). Existe también cierto interés en extender y afianzar la idea de que estamos ya en un mundo postdemocrático, en el que ha quedado expuesta la “falacía” de la política y las “mentiras” de los políticos, tratando de convertir la representación parlamentaria en una farsa innecesaria.

    Siguiendo esa lógica perversa, solo nos queda esperar a nuestro próximo salvador. La única pregunta que cabe hacerse es si se tratará de una multinacional china o americana. Se admiten apuestas.

    Me gusta

  12. 16 mayo, 2020 a las 10:55

    “Siguiendo esa lógica perversa, solo nos queda esperar a nuestro próximo salvador. La única pregunta que cabe hacerse es si se tratará de una multinacional china o americana. Se admiten apuestas.”

    Bueno… Yo apuesto por una alianza secreta entre americanos, chinos y reptilianos para hacernos creer que compiten pero en realidad estén forjando las bases para una invasión raticuliana… No, en serio y ahora como español de medio bien, desde que la imagen imaginada, futurista y distópica del Gran Hermano fue sustituida por esa otra, real, presentista y, aún no sabemos hasta qué punto, distópica, del Gran Tendero, aparte de anuncios relacionados con nuestros gustos se está fomentando el enfrentamiento político. Ya lo sabes y ya estamos viendo los resultados a gran escala. ¿Esto nos llevará a una guerra? Hace unos años no lo hubiera creído, pero viendo lo que se está viendo…

    Por cierto, es un gusto verte aquí, Doc. Espero que despliegues tu talento y me des otra razón para seguir entrando en esta magnífica página.

    Me gusta

  13. 25 mayo, 2020 a las 16:56

    La inteligencia artificial son muchos lo que no comparten con esta tecnologia y tendran sus razones ami no me llama mucho ña atención

    Me gusta

  14. Anónimo
    31 mayo, 2020 a las 22:27

    “…aparte de anuncios relacionados con nuestros gustos se está fomentando el enfrentamiento político. Ya lo sabes y ya estamos viendo los resultados a gran escala. ¿Esto nos llevará a una guerra? Hace unos años no lo hubiera creído, pero viendo lo que se está viendo…

    Saludos cordiales, gracias Punchipú por la amabilidad.

    En lo tocante a lo que todos damos en llamar “enfrentamiento político” en España, tiene que ver con una estrategia modelada para tumbar al adversario por medio del descrédito. Hace ya tiempo que un grupo de científicos sociales publicó un texto sobre la denominada “estrategia de la crispación”.

    Esta estrategia consiste más o menos en sostener un desacuerdo permanente y sistemático sobre determinadas iniciativas, propuestas, gestos, decisiones o actuaciones del otro, presentadas desde la contraparte, cualquiera que sea su alcance, como un intento de cambio espurio de las reglas del juego, como incompetencia, electoralismo, carencia de proyecto, corrupción, revanchismo, mala leche, oportunismo, etc., presentando, en última instancia, como una amenaza a la convivencia, al imperio de la ley, a los valores establecidos o el consenso democrático al otro.

    Esta estrategia, cocinada en los hornos de los neocons norteamericanos, llegó hace tiempo para afectar a nuestra vida política (¿recuerdan el “Vayase señor González”) influyendo en las relaciones entre gobierno y oposición, erosionando nuestras instituciones y finalmente creando una innecesaria división y enfrentamiento entre la ciudadanía.

    Es fácil ver que gracias a esta estrategia la situación ha empeorado y que se fomenta desde arriba abiertamente el frentismo en la calle. la derecha ha ido imponiendo un lenguaje y unos modales que saben que les van a conseguir un rédito que de otro modo no podrían alcanzar: regresar al poder. Pero para obtener este poder no vale todo, diga lo que diga Karl Rove (principal asesor de Bush en estos asuntos ideológicos), y, sobre todo, no vale la deslegitimación permanente y sistemática del adversario. Si la oposición contradice como norma al Gobierno, más allá de las medidas que este tome, además de desinformar al ciudadano, deja de ser leal. Y si el Gobierno prescinde de la existencia de la oposición tampoco practica la lealtad como virtud política.

    Esta estrategia crea una atmósfera irrespirable entre la ciudadanía y forma parte de esa estrategia responsabilizar de la situación a quien la padece y no a quien la provoca: ejercer de bombero pirómano. De hecho, ese es uno de los objetivos de la estrategia de la crispación: generarla para a continuación responsabilizar de ella a los demás.

    Les propongo un ejercicio: cada vez que uno de nuestros políticos nos salga con uno de los rosarios de acusaciones y reproches a los que nos tienen acostumbrados, deténganse un momento en ello e imaginen que está hablando de los males propios. Verán ustedes lo bien que casa su denuncia, con sus propias prácticas..

    Me gusta

  15. José Luis
    17 julio, 2020 a las 21:33

    Soy otro José Luis, no el primero que comentó.

    Aparte de lo ya dicho en el artículo y los comentarios, me limito a contar que hace unos días leí un artículo suyo de hace unos años sobre el mismo tema.

    Alguien que comentó, dudaba de la posibilidad de que se pueda diseñar la publicidad perfecta para cada quien.
    Ya los comentarios estaban cerrados y no pude opinar. A veces se ve que incluso entre escépticos, aún suele encontrarse rastros de los vicios de la religión, como creer que somos realmente especiales.

    Lo que aparentemente no mencionaron fue, qué tan parecido pueden ser nuestras necesidades, gustos y afiliaciones. Aclarar ese punto y divulgarlo serviría para quitarle las dudas a quien no crea que tanta información personal no está en riesgo. Quién quita que a lo mejor un político también se preocupe por como dichas empresas pueden jugarle a favor o en contra.

    Me gusta

  1. No trackbacks yet.

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s

A %d blogueros les gusta esto: