Scathax

Detalles del arresto

Un director atlético de una escuela preparatoria en el área de Baltimore fue arrestado el jueves después de que utilizara un software de inteligencia artificial, según la policía, para fabricar un clip de audio racista y antisemita que se hacía pasar por el principal de la escuela.

Dazhon Darien, el director atlético de la Escuela Preparatoria Pikesville, fabricó la grabación, incluyendo un discurso sobre "niños negros ingratos que no pueden salir de una bolsa de papel mediante una prueba", en un intento de difamar al principal, Eric Eiswert, según el Departamento de Policía del Condado de Baltimore.

La grabación falsa, que se publicó en Instagram a mediados de enero, se difundió rápidamente, agitando a las Escuelas Públicas del Condado de Baltimore, que es el vigésimo segundo distrito escolar más grande del país y sirve a más de 100.000 estudiantes. Mientras el distrito investigaba, el Sr. Eiswert, que negó haber hecho los comentarios, recibió amenazas a su seguridad, según la policía. También fue puesto en licencia administrativa, dijo el distrito escolar.

Consecuencias del incidente

Ahora el Sr. Darien enfrenta cargos que incluyen interrupción de las operaciones escolares y hostigamiento al principal.

El caso del condado de Baltimore es solo la última indicación de una escalada de abuso de inteligencia artificial en las escuelas. Muchos casos incluyen deepfakes, o videos, audios o imágenes digitalmente alteradas que pueden parecer convincentemente reales.

Desde el otoño pasado, las escuelas de todo Estados Unidos han estado luchando por abordar inquietantes incidentes de deepfake en los que estudiantes varones utilizaron aplicaciones de inteligencia artificial para "desnudar" a sus compañeras de clase femeninas, algunas de ellas estudiantes de secundaria tan jóvenes como de 12 años. Ahora el incidente de voz deepfake en el condado de Baltimore señala otro riesgo de inteligencia artificial para las escuelas en todo el país, esta vez para los educadores y líderes distritales veteranos.

Advertencia sobre el abuso de la inteligencia artificial

La calumnia de venganza de deepfake podría ocurrir en cualquier lugar de trabajo, pero es un espectro particularmente inquietante para los funcionarios escolares encargados de proteger y educar a los niños. Un funcionario del condado de Baltimore advirtió el jueves que la rápida difusión de las nuevas herramientas generativas de inteligencia artificial está superando las protecciones escolares y las leyes estatales.

"También estamos entrando en una nueva y profundamente preocupante frontera", dijo Johnny Olszewski, el ejecutivo del condado de Baltimore, durante comentarios públicos sobre el arresto el jueves. Añadió que los líderes de la comunidad necesitaban "mirar más ampliamente cómo se puede usar y abusar de esta tecnología para dañar a otras personas".

Detalles del incidente de deepfake

El relato de la policía sobre el caso del condado de Baltimore muestra lo rápido que puede difundirse la peligrosa desinformación deepfake en las escuelas, causando daños duraderos a educadores, estudiantes y familias.

Según documentos policiales, el Sr. Darien desarrolló una queja contra el Sr. Eiswert en diciembre después de que el director comenzara a investigarlo. Según la policía, el Sr. Darien había autorizado un pago del distrito de $1,916 a su compañero de cuarto, "bajo el pretexto" de que el compañero de cuarto trabajaba como entrenador asistente para el equipo de fútbol femenino de Pikesville.

Poco después, según la policía, el Sr. Darien utilizó los servicios de internet del distrito escolar para buscar herramientas de inteligencia artificial, incluyendo las de OpenAI, el desarrollador del chatbot ChatGPT, y el chat Bing de Microsoft.

A mediados de enero, el Sr. Darien envió por correo electrónico un clip de audio deepfake que se hacía pasar por el director a sí mismo y a otros dos empleados de la escuela preparatoria, según la policía. El correo electrónico, con el asunto "Principal de Pikesville - Grabación inquietante", se envió desde una cuenta de Gmail que parecía pertenecer a un tercero desconocido pero estaba vinculada al número de teléfono celular del Sr. Darien, según los documentos policiales.

Uno de esos empleados escolares luego envió la grabación falsificada a organizaciones de noticias y a la Asociación Nacional para la Promoción de las Personas de Color, según los documentos policiales. También se lo envió a un estudiante que "sabía que difundiría rápidamente el mensaje en varias redes sociales y en toda la escuela", dicen los documentos.

Pronto, una cuenta de Instagram que sigue el crimen local publicó el falso audio racista, diciendo que era un "ruego sobre los estudiantes negros" y nombrando al director como el orador. El clip de audio, que dura menos de un minuto, se compartió más de 27.000 veces y generó más de 2.800 comentarios, muchos de ellos pidiendo el despido del director.

La policía dice que el vehemente discurso deepfake tuvo "repercusiones profundas", tensando la confianza entre las familias, los maestros y los administradores de la Escuela Preparatoria Pikesville.

Padres y estudiantes indignados y enojados inundaron la escuela con llamadas. Algunos maestros, dijo la policía, temían que "se hubieran colocado dispositivos de grabación en varios lugares de la escuela". Para abordar las preocupaciones de seguridad, el Departamento de Policía aumentó su presencia en la escuela.

La policía también proporcionó cierta supervisión de seguridad para el Sr. Eiswert, quien recibió una ráfaga de mensajes acosadores y llamadas telefónicas, algunas de ellas amenazándolo a él y a su familia con violencia.