Movimiento global para proteger a los niños en línea combina una ola de tecnología de seguridad de IA

El movimiento global de seguridad en línea ha allanado el camino para una serie de productos artificiales con inteligencia diseñados para mantener a los niños alejados de las cosas potencialmente dañinas en Internet.

En el Reino Unido, una nueva legislación llamada Ley de Seguridad en línea impone un deber de cuidado a las empresas tecnológicas de proteger a los niños del material inapropiado de la edad, el discurso de odio, el acoso escolar, el fraude y el material de abuso sexual infantil (CSAM). Las empresas pueden enfrentar multas de hasta el 10% de sus ingresos anuales globales por infracciones.

Más lejos, las regulaciones históricas destinadas a mantener a los niños más seguros en línea están avanzando rápidamente en el Congreso de los Estados Unidos. Un proyecto de ley, conocido como la Ley de Seguridad en línea para niños, haría responsables las plataformas de redes sociales para evitar que sus productos dañen a los niños, similar a la Ley de Seguridad en línea en el Reino Unido

Este impulso de los reguladores está causando cada vez más repensar a varios jugadores tecnológicos importantes. Pornhub y otros gigantes pornográficos en línea están bloqueando que todos los usuarios accedan a sus sitios a menos que pasen por un sistema de verificación de edad.

Sin embargo, los sitios porno no han estado solos en tomar medidas para verificar las edades de los usuarios. Spotify, Reddit y X han implementado sistemas de garantía de edad para evitar que los niños estén expuestos a materiales sexualmente explícitos o inapropiados.

Dichas medidas regulatorias se han cumplido con las críticas de la industria tecnológica, sobre todo debido a las preocupaciones de que pueden infringir la privacidad de los usuarios de Internet.

En el corazón de todas estas medidas de verificación de edad hay una compañía: Yoti.

Yoti produce tecnología que captura selfies y utiliza inteligencia artificial para verificar la edad de alguien en función de sus características faciales. La firma dice que su algoritmo de IA, que ha sido entrenado en millones de caras, puede estimar la edad de 13 a 24 años dentro de los dos años de la precisión.

La firma se ha asociado previamente con la oficina de correos del Reino Unido y espera capitalizar el impulso más amplio para las tarjetas de identificación digital emitidas por el gobierno en el Reino Unido, Yoti no está solo en el espacio de software de verificación de identidad: otros jugadores incluyen Entrust, Persona e IProov. Sin embargo, la compañía ha sido el proveedor más destacado de servicios de garantía de edad bajo el nuevo régimen del Reino Unido.

«Hay una carrera para los proveedores de tecnología y servicios de seguridad infantil para ganar confianza y confianza», dijo a CNBC Pete Kenyon, socio de la firma de abogados Cripps. «Los nuevos requisitos sin duda han creado un nuevo mercado y los proveedores están luchando para dejar su huella».

Sin embargo, el aumento de los métodos de identificación digital también ha generado preocupaciones sobre las infracciones de privacidad y las posibles violaciones de datos.

«Surgen problemas de privacidad sustanciales con esta tecnología utilizada», dijo Kenyon. «La confianza es clave y solo se obtendrá mediante el uso de procedimientos técnicos y de gobierno estrictos y efectivos adoptados para mantener los datos personales seguros».

Rani Govender, Gerente de Políticas de Seguridad Infantil en línea en la organización benéfica británica de protección infantil NSPCC, dijo que la tecnología «ya existe» para autenticar a los usuarios sin comprometer su privacidad.

«Las empresas tecnológicas deben tomar decisiones deliberadas y éticas eligiendo soluciones que protejan a los niños del daño sin comprometer la privacidad de los usuarios», dijo a CNBC. «La mejor tecnología no solo marca las casillas; se crea confianza».

La ola de nuevas tecnologías que emergen para evitar que los niños estén expuestos a daños en línea no se limita solo al software.

A principios de este mes, el fabricante de teléfonos finlandés HMD Global lanzó un nuevo teléfono inteligente llamado Fusion X1, que utiliza IA para evitar que los niños filmen o compartan contenido desnudo o vieran imágenes sexualmente explícitas desde la cámara, la pantalla y en todas las aplicaciones.

El teléfono utiliza la tecnología desarrollada por Safetonet, una firma de seguridad cibernética británica centrada en la seguridad infantil.

«Creemos que hay que hacer más en este espacio», dijo a CNBC James Robinson, vicepresidente de Family Vertical en HMD. Hizo hincapié en que a HMD se le ocurrió el concepto de dispositivos infantiles antes de que la Ley de Seguridad en línea entrar en vigor, pero señaló que fue «genial ver al gobierno tomar mayores medidas».

El lanzamiento del teléfono amigable para los niños de HMD sigue el mayor impulso en el movimiento «sin teléfonos inteligentes», lo que alienta a los padres a evitar dejar que sus hijos tengan un teléfono inteligente.

En el futuro, el gobernador de NSPCC dice que la seguridad infantil se convertirá en una prioridad significativa para los gigantes digitales como Google y Meta.

Los gigantes tecnológicos han sido acusados ​​durante años de empeorar la salud mental en niños y adolescentes debido al aumento del acoso escolar y la adicción a las redes sociales. A cambio, argumentan que han tomado medidas para abordar estos problemas a través del aumento de los controles de los padres y las características de privacidad.

«Durante años, los gigantes tecnológicos se han mantenido mientras el contenido dañino e ilegal se extendió por sus plataformas, dejando a los jóvenes expuestos y vulnerables», dijo a CNBC. «Esa era de negligencia debe terminar».