Quería atacar a sus compañeros, se lo contó a ChatGPT y una alerta terminó por delatarlo

Un joven de 15 años de Quilmes, en la provincia de Buenos Aires, se encuentra ahora en el centro de una investigación tras expresar en una conversación con ChatGPT su intención de atacar y dañar a compañeros de su escuela. Una alerta proveniente de Estados Unidos permitió identificarlo y localizar su vivienda, donde la policía llevó a cabo un allanamiento.

El aviso llegó al Departamento Federal de Investigaciones de la Policía Federal Argentina el 19 de agosto. Fue enviado por el agregado jurídico del FBI en la Embajada de Estados Unidos y estaba relacionado con una cuenta de correo electrónico utilizada para acceder a la plataforma.

El episodio volvió a poner en el centro del debate el papel que pueden tener las herramientas de inteligencia artificial frente a conversaciones que contienen señales de una posible amenaza.

La conversación que activó la alarma

De acuerdo con los primeros datos difundidos sobre el caso, el adolescente habría utilizado ChatGPT para expresar pensamientos relacionados con un eventual ataque contra otros estudiantes.

La información generó una alerta que permitió que el contenido fuera detectado y derivado a las autoridades correspondientes. A partir de allí comenzó una investigación que involucró a organismos de seguridad estadounidenses y derivó en un procedimiento policial en Quilmes.

El caso fue presentado públicamente como un ejemplo de cómo una conversación mantenida con una plataforma digital puede terminar desencadenando una intervención cuando aparecen señales vinculadas con una posible amenaza.

Investigación y allanamiento

Tras tomar conocimiento de la situación, las autoridades avanzaron para determinar el alcance de las manifestaciones realizadas por el adolescente y establecer si existía un riesgo concreto.

Como parte de las actuaciones se realizó un allanamiento en su vivienda. La investigación busca establecer las circunstancias del episodio y determinar las medidas que correspondan, teniendo en cuenta además que se trata de una persona menor de edad.

El caso generó repercusión por la particular forma en que se inició la alerta y volvió a abrir interrogantes sobre seguridad, inteligencia artificial y prevención de posibles hechos violentos.

Las autoridades deberán determinar ahora qué grado de planificación existía detrás de las expresiones del adolescente y cuál era el nivel real de riesgo para la comunidad educativa.