El pasado 16 de mayo de 2024 nuestro compañero Rafael Merino, en colaboración con la Asociación de las Naciones Unidas en España, presentó en Barcelona una conferencia sobre la creciente influencia de la Inteligencia Artificial (IA) y los algoritmos en nuestras vidas y en los Derechos Humanos. El evento tuvo como objetivo informar sobre los riesgos y beneficios de estas tecnologías emergentes.
El comienzo de la presentación sirvió para explicar qué es la IA y cómo se crean los algoritmos, recalcando cómo las decisiones humanas involucradas en estos procesos pueden generar sesgos. Además, se subrayó la importancia de estar atentos a cómo la IA puede influir en el comportamiento individual y colectivo, mediante la polarización y la deshumanización.
Su impacto en los Derechos Humanos
Uno de los temas más relevantes de la conferencia fue el impacto de la IA en los derechos humanos. En concreto, se destacaron varias áreas clave:
1. Acceso a la justicia: El uso de sistemas de IA en evaluaciones de riesgo y procesos judiciales puede comprometer el acceso a la justicia, el derecho a un juicio justo y poner en peligro el principio de igualdad ante la ley.
2. Discriminación: Concretamente desde dos planos:
o Los algoritmos pueden reproducir patrones discriminatorios, especialmente sexistas y racistas.
o Los algoritmos utilizados por las Fuerzas y Cuerpos de Seguridad del Estado (FCSE) para anticipar zonas con mayor probabilidad de crímenes pueden generar una presión y observación sistémica, profundizando en la desigualdad y la segregación.
4. Privacidad: Se enfatizó la necesidad de ser conscientes del valor de nuestra información y cómo se utiliza.
5. Libertad de pensamiento y opinión: A medida que la tecnología avanza en la comprensión del funcionamiento de nuestras mentes se incrementa un posible riesgo de manipulación.
6. Derecho al trabajo: La preocupación por el futuro del mercado laboral y la posible sustitución de puestos de trabajo por la IA es un tema de gran relevancia social.
El evento también abordó el preocupante aumento de la violencia digital contra mujeres y niñas. Se destacaron delitos como el ciberacoso, la sextorsión, la difusión ilegítima de imágenes en redes sociales y los deepfakes sexuales, subrayando la importancia de la prevención y la tipificación de estos delitos. Si quieres más información sobre este tema o conoces a alguien a quien le pueda interesar, te invitamos a que eches un vistazo a nuestro Kit legal: contra la violencia de género por medios digitales en la adolescencia, ¡puede servirte de gran ayuda!
Por último, se abordaron las medidas que se están tomando para mantener el control sobre la IA y los algoritmos, destacando los esfuerzos regulatorios y la necesidad de promover una cultura de prevención y educación en el buen uso de Internet y las nuevas tecnologías.
La Inteligencia Artificial tiene muchas virtudes, pero también muchos riesgos y solamente conociéndolos será posible relacionarnos con ella de forma sana, responsable y con sentido de la justicia.
Te dejamos un vídeo con los highlights de la charla, ¡esperamos que te resulte interesante!
