Isidro Toro Pampols
La Unión Europea, como institución supranacional, ha tomado la delantera en legislar sobre la materia reconocida como Inteligencia Artificial (IA), aprobando la normativa el pasado 8 de diciembre.
La nueva regla tiene por objeto regular el uso de la IA en todos los países miembros de la Unión. El propósito es determinar un marco para la utilización responsable y ética, garantizando la privacidad y la seguridad de los ciudadanos.
Con el desarrollo de esta tecnología con aplicaciones como el reconocimiento facial, la traducción de frases o artículos completos en cualquier idioma, los servicios de streaming o transmisión en directo, los asistentes de voz y los chatbots, que es un software basado en IA capaz de mantener una conversación en tiempo real por texto o por voz, llamó la atención y generó preocupación en los eurodiputados y procedieron a legislar; aunque reconocen las ventajas de la IA, aspiran colocar un valladar a posibilidades de desviaciones reñidas con la ética.
De allí que la legislación prohíbe, entre otros usos, los sistemas de categorización biométrica por razones políticas, raza, religiosas, filosóficas y orientación sexual.
Este aspecto es complejo y de allí que establece niveles de riesgos, los cuales son de mayor a menor: riesgo inaceptable, alto riesgo, riesgo limitado y riesgo mínimo, a los que le imponen requisitos y normas legales que deben cumplir las empresas proveedoras de los servicios.
Si el programa constituye una amenaza, como ejemplo un juguete que utilizan asistencia de voz que puede fomentar comportamientos peligrosos de menores de edad o sistemas que permiten la «puntuación social» por parte de gobiernos o empresas, o ciertas aplicaciones de vigilancia policial predictiva, serán regulados o prohibidos.
Hay desarrollos que buscan reconocer las emociones que son utilizados por las organizaciones económicas, pero también por la policía en lugares públicos como las estaciones de transporte de pasajeros o mercados. La legislación busca regular estas aplicaciones.
Los usuarios de chatbots deben ser informados que están interactuando con maquinas y cuales son los alcances de estos.
La ley procura intervenir los sistemas clasificando estos en grandes grupos como los de categorización biométrica en espacios públicos, los que explotan vulnerabilidades de menores o personas con discapacidad, los precitados de puntuación social, que manipulan el comportamiento humano, la categorización biométrica que utilizan características sensibles, los de reconocimiento facial y los de reconocimiento emocional.
Quien viole la norma le aplicaran multas que van desde 7,5 millones de euros o el 1,5% del volumen de negocio a otras de 35 millones o el 7% del volumen de negocio, según la infracción cometida y el tamaño de la empresa.
Esta ley pionera será objeto de observación y, como toda legislación, será perfectible. Veremos qué pasa
