“El reglamento ha considerado diversos niveles de la inteligencia artificial para poder saber cuándo hay un uso indebido, cuándo hay un riesgo alto y cuándo hay un riesgo aceptable en la utilización”, explica a la Agencia Andina.
Respecto a estos usos indebidos, Iriarte señala 3 principales casos. Primero es la manipulación subliminal en la que la persona emplee la herramienta tecnológica y haga que entienda las cosas de una manera que no está tipificada. “Hay una intencionalidad detrás para que haga determinada acción o entienda la realidad de una determinada manera”.
Lee también:
Reglamento sobre IA asegura derechos, privacidad y oportunidades de innovación en el país
El segundo caso es la puntuación social o social scoring, que tiene que ver con la utilización de la inteligencia artificial para ver cuáles son los diversos usos o consumos que hacen las personas y, a partir de ello, puntuarlas y que esto les de acceso a derechos, a beneficios o bienes.
Por último, está el caso de la
vigilancia masiva indiscriminada. “Se trata de la utilización de cámaras que tengan
inteligencia artificial, de reconocimiento sin que haya detrás un hecho ilícito, simplemente por el reconocimiento per se.”
Este ha sido cuestionado por el tema de derechos humanos y la protección de datos personales, lo que llevará a un futuro replanteamiento.
Seguridad: vigilancia con IA
El abogado Erick Iriarte señala que, dentro de la discusión sobre el empleo de la inteligencia artificial para combatir la inseguridad, el punto central radica en si estamos dispuestos en ceder libertades para este fin.
“Cuando colocas la seguridad encima de la libertad, tarde o temprano la seguridad se come a la libertad. Personalmente, prefiero un sistema que tenga un principio desde los derechos humanos, un principio en respeto por las libertades, antes que un principio basado solamente en la seguridad por la seguridad”, enfatiza.
Esta situación lleva a avanzar hacia una dimensión más filosófica y ética sobre el empleo de la IA por parte de los seres humanos.
“La
inteligencia artificial no es mágica ni es algo externo, es hecha por personas y las personas pueden cometer errores, pueden tener actos dolosos, pueden tener negligencias, pueden tener sesgos que incorporan a su tecnología. No es quererle a ciegas en la tecnología”.
Lee también:
¿Qué es inteligencia artificial? El chatbot ChatGPT nos responde
Para Iriarte, se requiere de un análisis intermedio, ya que esta herramienta tecnológica también se utiliza para ponerle un scoring a las personas y tarjetizarlas sin que hayan cometido un delito, una suerte de Minority Report, un análisis previo, una suerte de que ya algunos van a cometer algunos ilícitos sin ni siquiera lo ha cometido.
La regulación después de la tecnología
El experto Erick Iriate también explicó a la
Agencia Andina que, si bien este reglamento contempla diversos usos indebidos de la inteligencia artificial, va a requerir una constante adecuación al contexto debido a su tardía implementación.
“Esta es una regulación que ha aparecido varios años después de la tecnología y esto significa cómo voy a adecuar lo que ya había avanzado. Siguiendo con el caso de las cámaras y su utilización por los municipios, su argumento era la utilización para la lucha contra la delincuencia, pero que, de acuerdo con este concepto, si se hace masivamente sin una intencionalidad pudieran estar contraviniendo y ser un uso indebido”, detalló.
Otro punto importante que remarca Iriarte sobre este reglamento es su posible afectación al desarrollo e innovación. En el Perú, y en general en América Latina, no se produce inteligencia artificial, sino que la utiliza.
“Nuestras áreas académicas no construyen las herramientas, sino que las utilizamos sobre todo de Estados Unidos y algunas de Europa, y es por eso que la discusión sobre el tema de innovación se vuelve tan crítico”.
Esta norma podría terminar afectando la innovación o la posibilidad de que se desarrollen determinados negocios socios basados en la inteligencia artificial que estaban comenzando a funcionar. “Es como si tuviéramos regulaciones en paralelo a la vez sin que esto tenga necesariamente un orden claro porque falta una entidad y una política pública en el Estado peruano sobre el tema digital.”
Por ello considera que el gobierno debe dejar las bases para un plan a largo plazo, que contemplen su regulación.“Si salen regulaciones sin un propósito claro, nadie sabrá para qué son exactamente y cada uno lo va a tomar de la mejor manera o como pueda”.
Más en Andina:
(FIN) MFR