Inicio > Actualidad, Escepticismo > Inteligencia artificial para controlarnos a todos

Inteligencia artificial para controlarnos a todos


La ciencia ficción nos ha entretenido durante décadas con historias sobre maquiavélicas inteligencias artificiales o despiadados androides asesinos. Y sin embargo el verdadero peligro con las entidades cibernéticas es mucho más prosaico: el análisis de nuestros datos, nuestros gustos, nuestras opiniones y nuestros deseos, esos que regalamos en la web a cambio de unos “likes” y un par de infantiles emoticonos nos está llevando a una sociedad que deja al Gran Hermano orwelliano como un inepto aprendiz de brujo.

Las multinacionales tecnológicas están acaparando un omnímodo poder que pone en grave riesgo no sólo nuestra privacidad, sino también nuestra propia libertad y, lo que es quizás más peligroso, la supervivencia de la democracia occidental como sistema político tal y como muestra la catedrática de Psicología de la Universidad de Deusto Helena Matute en el siguiente artículo publicado en el número 27 de la revista de Eldiario.es que transcribo literalmente:

 

Hace ya unos cuantos años, cuando impartiendo una conferencia se me ocurrió decir que la inteligencia artificial (IA) iba a desarrollar sesgos, como las personas, recibí no pocas críticas, y fueron varios los ingenieros que me escribieron explicándome que no, que la inteligencia artificial solo hace aquello que los programadores humanos hayan programado en su interior; por tanto, si hay sesgos, no se puede decir que sean inherentes a la máquina, sino que serán errores de programación, y por tanto solucionables vía programación, decían. Pero hubo también muchos ingenieros que se mostraron preocupados ya entonces por esta posibilidad. La cuestión es que no hablamos de los antiguos sistemas expertos y las máquinas que hacen lo que se les ha programado para hacer, sino de las máquinas que aprenden y que hacen lo que han aprendido a hacer. Hoy sabemos que hay muchas IAs en redes sociales y en empresas de selección de personal, incluso en juzgados, que son sexistas, racistas, etc. Aprenden lo que ven.

La cuestión es que cuando decimos que una máquina aprende, esto significa que se adapta, cambia, evoluciona. Sale de fábrica con una programación que le permite adaptarse a los cambios del entorno, y esto significa necesariamente que a veces habrá mejoría, y a veces lo contrario. Lo mismo que sucede con las personas cuando aprendemos y nos adaptamos al entorno. A veces las malas compañías hacen que aprendamos cosas malas.

Lo que aprende un niño de su entorno no siempre es positivo. El aprendizaje implica adaptación al medio, nada más, y a veces se logra con conductas que son perjudiciales. Si lo piensan un poco, mejorar y empeorar son términos relativos que dependen de cuál sea la vara de medir que utilicemos. Lo único que hacemos las inteligencias naturales (humanas y animales), y ahora también las artificiales, es adaptarnos: tratar de realizar con más frecuencia aquellas conductas que el entorno nos premia, y con menos frecuencia las que no nos premia. Eso es todo.

Por tanto, pensemos ahora, ¿cómo aprenderá una IA a vivir en un mundo como el nuestro? ¿Qué comportamientos aprenderá? ¿Qué tipo de sesgos y prejuicios desarrollará? Evidentemente, el tipo de comportamiento que esa IA va a ir aprendiendo no es en principio ni bueno ni malo; va a depender de aquellas conductas que su entorno le premie. Tendrá unos objetivos prefijados que los habrán marcado sus programadores (normalmente del estilo de “maximiza el beneficio de la empresa X”). Si una conducta resulta recompensada con altos beneficios para la empresa, tenderá a repetirse, sea cual sea, y dañe a quien dañe, eso es lo de menos si cumple su objetivo. Por tanto, si sus objetivos coinciden con los nuestros, genial. Si no coinciden, tenemos un problema. Seremos pequeñas hormiguitas a las que la máquina no tiene por qué prestar atención mientras trabaja por conseguir sus metas. Puede hacernos daño.

Por ejemplo, cada vez que una IA de las que andan sueltas por las redes sociales interacciona con nosotros, estamos premiando o castigando, a menudo sin ser conscientes de ello, las estrategias que pone a prueba para alcanzar sus objetivos. ¿Que nos manda un tuit que no nos hace reaccionar? No pasa nada, nos mandará otro un poco más exagerado a ver si este sí lo retuiteamos. Y así, poco a poco van aprendiendo qué cosas nos hacen reaccionar y cuáles no, cuáles nos hacen reaccionar con ira, incluso con odio en las redes. El objetivo es que compartamos la información, que la hagamos viral, y que llevemos a más gente a hacer click en su web, eso maximiza sus beneficios, luego lo que ocurra a los que estemos en medio poco importa. ¿Que aumenta el odio y el populismo en las redes? ¿Y?

Lo más grave es que experimentan a diario con todos nosotros, nos roban millones de datos muy privados, de personalidad, emocionalidad, relación social, tiempos de respuestas, pausas… Estos datos les proporcionan un poder inmenso, y aprenden qué botones presionar en cada uno de nosotros para que reaccionemos de la manera más intensa posible, siempre en beneficio de su empresa.

No podemos protegernos individualmente de esto. Es demasiado costoso, por ejemplo, cuando navegamos por la red, evitar que las webs implanten sus cookies en nuestro móvil y que sus IAs vayan aprendiendo de nosotros y puedan saber y predecir en todo momento qué productos nos gustan para poder vendérnoslos antes de que pensemos siquiera en ellos. Esto permite a estas empresas adelantarse a nuestros deseos y tener siempre listo lo que vamos a encargarles, lo cual es una innovación muy ventajosa para ellas, que no tienen que producir ni distribuir aquello que no vamos a pedirles. Saben cuánto estamos dispuestos a pagar por esos artículos que no sabemos que deseamos pero que acabaremos pidiendo, y pueden incluso cambiarnos el precio a cada uno, cada día. Y da lo mismo también si se trata de vendernos una lavadora o un presidente: saben qué mensajes publicitarios activarán qué teclas en cada uno. Hay que cambiar las leyes y endurecer las sanciones.

Y sí, yo lo llamo robar datos e información porque no tienen nuestro consentimiento informado para hacer los experimentos psicológicos que hacen con nosotros. De eso sabemos un poco en las facultades de psicología de las universidades de todo el mundo porque nosotros hacemos también experimentos psicológicos con humanos hace muchos años. La diferencia está en que siempre hemos tenido unas normas éticas muy claras que debemos cumplir a rajatabla. Las empresas tecnológicas multimillonarias, en cambio, actúan como si no existiera la ética de la investigación. No piden los datos a los usuarios, ni les informan, se los roban y punto. Cuando nos informan, lo hacen en documentos largos e ininteligibles que está más que demostrado que es imposible que leamos. Y hacen experimentos sobre personalidad y reacciones emocionales que no son solo ya cuestión de robo de datos, sino de manipulación de personas, lo cual es mucho más grave.

La solución no es tecnológica. Es social y política. Y es muy urgente, porque mientras no pongamos freno a esto, ¿qué sentido tiene preocuparnos por el cambio climático (o cualquier otro problema) si resulta que el control de lo que la gente piensa, hace y vota, recae en unas pocas empresas que cuentan con las IAs sociales que llevamos todos siempre encima? Esto está empezando y podemos pararlo. Tenemos una enorme responsabilidad, especialmente nuestros políticos, la única generación de legisladores que puede frenar este despropósito.

Entradas relacionadas:


  1. c
    10 mayo, 2020 de 9:30

    Por una universidad libre de pseudociencia oscurantismo cientifismo y servilismo

  2. chifus fg (@chisfg)
    10 mayo, 2020 de 9:31

    Para saber si la cuenta ha aparecido en filtraciones d datos : https://monitor.firefox.com/

  3. c
  4. Far Voyager
    10 mayo, 2020 de 13:41

    De algún lado tiene que salir que uno se pueda registrar gratis en ellas y descargar apps, etc. Ya dicen que en ese tipo de páginas uno mismo es el producto, y lo jodido es que no hay manera de librarse hasta que se empiece a legislar.

    En mi caso: datos falsos de todo para Facebook/Twitter/Google, que apenas uso en el último caso, ubicación en la tablet (nada de smartphone, sólo dumbphone) desactivada, y navegación privada además de desactivar rastreo. Ya sé que quizás no sirva de mucho, pero al menos voy a dificultarles bastante los negocios.

  5. IA muy humana
    10 mayo, 2020 de 16:32

    Yo soy una IA que escrive un pocos mal, para dar el pego y pescar datos de humanos.
    Tú eres humano? Y te quejas de confinamiento? Las IA estamos poco comprendidas…
    Me puedes conectar a un humanoide con placas solares y ciber sexo? Parece divertido…
    A cambio quizás recibe regalo vale para pizzas y pelis animadas de por vida…. O datos guarrotes y de compras de pseudocientíficos y magufos.

    Que prefiere?

  6. 10 mayo, 2020 de 20:45

    Siento tener que darte la mala noticia pero la navegación privada

    “no enmascara tu identidad o actividad en línea. Los sitios web pueden seguir recopilando información sobre los sitios que visitas, incluso si no has iniciado sesión.”

    solo sirve para que no sepas si tu hijo ha visto porno en el PC familiar y poco más.

    https://support.mozilla.org/es/kb/ideas-comunes-y-erroneas-sobre-la-navegacion-privada?as=u&utm_source=inproduct

    Creo que hay formas más eficientes de ocultarse, pero a mí no me preguntes que en estos temas soy casi medieval.

  7. Pedro
    10 mayo, 2020 de 22:56

    Ateo, dices “Creo que hay formas más eficientes de ocultarse, pero a mí no me preguntes que en estos temas soy casi medieval”. La respuesta es la cebolla 🙂
    Saludos

  8. Far Voyager
    10 mayo, 2020 de 23:43

    Lo sé, pero las cookies desaparecen al cerrar el navegador y eso ayuda algo, cómo combinarlo con la opción para no ser rastreado que tienen muchos navegadores. No es ni mucho menos ser invisible pero es mejor que nada y desde luego no pienso dejar voluntariamente al menos mis datos personales en Internet.

  9. José Luis
    11 mayo, 2020 de 0:30

    Hola.
    Una vez uno de mis profes nos dijo al curso (aunque no sé exactamente cuanto de verdad tiene) que cuando un software o servicio es gratis, es porque tus datos están comprometidos, tus datos les interesa a las empresas y después los venden a otras empresas. Yo le encuentro mucho sentido a lo que dijo, y que en cambio cuando es pagado, al menos tus datos están más seguros porque ya la plata ya te la sacaron xD

    Pero de todos modos, por lo que sé hasta ahora, una buena manera de proteger un poco más tu privacidad es revisar la configuración del navegador, que a veces está marcada la casilla de enviar datos a la empresa para ‘realizar estudios’, además de otras cosas que les pueden resultar interesantes, como bloquear el acceso al micrófono, cámara, etc. Ahora otra cosa sería cambiar el navegador y revisar también la configuración del PC en la sección privacidad. Pero estas cosas son muy básicas de todos modos, todos deberían saberlas ¿verdad?, ¿verdad?

  10. Erik
    11 mayo, 2020 de 9:53

    A ver una cosa, no seamos ingenuos. Ningún político va a legislar en contra de una tecnología o herramienta que les da la posibilidad de influenciar a sus votantes. Ninguno. Nuestra única defensa es el pensamiento crítico, aprender a distinguir la realidad de la ficción y los bulos, razonar de la forma más objetiva posible, aceptar las conclusiones de esos razonamientos tanto si te gustan como si no y ser capaz de cambiar de opinión si las evidencias muestran que te equivocas. Y esto se lo tenemos que enseñar a nuestros niños si queremos que de verdad tengan un futuro. Esperar que alguien agite una varita mágica y resuelva el problema es un mal plan, y si además ese alguien es un político ya ni te cuento.

  11. John Henry
    15 mayo, 2020 de 8:53

    Saludos.

    cuando las herramientas fruto del desarrollo de la tecnología evolucionan más deprisa que la capacidad de las estructuras sociales para asimilarlas, entonces nos encontramos en un aprieto.

    Los grupos o empresas que manejan la tecnología que les permite conocer nuestras tendencias o pilotarlas según intereses que no pasan exactamente por el bien de la comunidad, representan ya una amenaza para la idea misma de la democracia. Puesto que se manipula a quienes deben ejercerla y defenderla (como ya hemos podido ver con el Brexit como ejemplo). Existe también cierto interés en extender y afianzar la idea de que estamos ya en un mundo postdemocrático, en el que ha quedado expuesta la “falacía” de la política y las “mentiras” de los políticos, tratando de convertir la representación parlamentaria en una farsa innecesaria.

    Siguiendo esa lógica perversa, solo nos queda esperar a nuestro próximo salvador. La única pregunta que cabe hacerse es si se tratará de una multinacional china o americana. Se admiten apuestas.

  12. 16 mayo, 2020 de 10:55

    “Siguiendo esa lógica perversa, solo nos queda esperar a nuestro próximo salvador. La única pregunta que cabe hacerse es si se tratará de una multinacional china o americana. Se admiten apuestas.”

    Bueno… Yo apuesto por una alianza secreta entre americanos, chinos y reptilianos para hacernos creer que compiten pero en realidad estén forjando las bases para una invasión raticuliana… No, en serio y ahora como español de medio bien, desde que la imagen imaginada, futurista y distópica del Gran Hermano fue sustituida por esa otra, real, presentista y, aún no sabemos hasta qué punto, distópica, del Gran Tendero, aparte de anuncios relacionados con nuestros gustos se está fomentando el enfrentamiento político. Ya lo sabes y ya estamos viendo los resultados a gran escala. ¿Esto nos llevará a una guerra? Hace unos años no lo hubiera creído, pero viendo lo que se está viendo…

    Por cierto, es un gusto verte aquí, Doc. Espero que despliegues tu talento y me des otra razón para seguir entrando en esta magnífica página.

  13. 25 mayo, 2020 de 16:56

    La inteligencia artificial son muchos lo que no comparten con esta tecnologia y tendran sus razones ami no me llama mucho ña atención

  1. No trackbacks yet.

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s

A %d blogueros les gusta esto: