ChatGPT para adolescentes: el riesgo no es el que usted cree!

La llegada de una experiencia de ChatGPT adaptada específicamente para adolescentes representa un paso lógico en la evolución de la inteligencia artificial generativa. Millones de usuarios jóvenes ya utilizan estas herramientas para estudiar, investigar, programar, escribir, resolver problemas y satisfacer su curiosidad, por lo que tratarlos exactamente igual que a un adulto sería un poco arriesgado y en muchos casos hasta irresponsable al desconocer que todavía atraviesan una etapa fundamental de desarrollo intelectual y emocional.

La compañía reconoce esa diferencia. Su planteamiento sobre seguridad adolescente establece una jerarquía deliberada entre tres principios que inevitablemente entran en tensión: seguridad, libertad y privacidad. Para los menores, OpenAI sostiene que la seguridad debe tener un peso superior, lo que se traduce en mayores restricciones frente a contenidos sensibles, mecanismos para estimar la edad y posibilidades de intervención en determinadas situaciones graves.

La discusión, sin embargo, no debería terminar allí. Existen dos riesgos mucho menos espectaculares que probablemente nunca active una alarma de seguridad:

La addición que puede generar este tipo de chatBots,

Que un adolescente utilice la IA para externalizar sistemáticamente el esfuerzo intelectual, mediante el cual, debería estar construyendo su criterio.

Las amenazas suelen ser silenciosas pero…

Si miramos a EEUU y puntualmente al caso de Meta, la industria ya vivió una etapa en la que optimizar enganche del público juvenil parecía una decisión de producto y años después terminó convirtiéndose en un problema social, regulatorio y ahora judicial. Es imperativo validar hasta dónde llega la responsabilidad de las Big Tech (que tienen sus propias plataformas) en este tipo de casos de adicción a las redes sociales.

Imagen generada con IA: Las redes sociales pueden llegar a ser el nuevo vicio

Por otro lado, cuando hablamos de seguridad para adolescentes a nivel de la IA, es común pensar inmediatamente en contenido sexual, violencia, autolesiones, manipulación emocional o conversaciones potencialmente perjudiciales. Son riesgos reales y justifican que una plataforma utilizada por menores incorpore protecciones adicionales. OpenAI también ha planteado mecanismos de estimación de edad para proporcionar experiencias diferenciadas y aplicar mayores salvaguardas cuando considera que está interactuando con un menor.

Pero imaginemos otro adolescente. No busca contenido peligroso, no manifiesta problemas emocionales y jamás genera una alerta. Simplemente utiliza ChatGPT todas las tardes para resolver matemáticas, resumir los libros que debería leer, escribir ensayos, preparar presentaciones, desarrollar código y elaborar conclusiones.

Probablemente entrega trabajos excelentes y obtiene buenas calificaciones. Desde cualquier sistema tradicional de seguridad, no existe ningún problema. Desde una perspectiva educativa, en cambio, podríamos estar frente a algo preocupante: aprendió a obtener resultados inmediatos incluso antes de haber desarrollado completamente las capacidades necesarias para producirlos.

El verdadero propósito de una tarea nunca fue sólo entregarla

Durante décadas hemos cometido un error al interpretar el trabajo académico como un producto terminado. Parecería que escribir un ensayo sobre la Revolución Francesa consiste en producir cinco páginas correctamente redactadas, que resolver veinte ecuaciones significa conseguir veinte respuestas correctas o que leer una novela tiene como finalidad entregar posteriormente un resumen.

El objetivo real estaba escondido detrás del resultado. El estudiante investigaba para aprender a buscar información, comparaba fuentes para desarrollar criterio, escribía para ordenar pensamientos, se equivocaba para reconocer los límites de su razonamiento y volvía a intentarlo para comprender cómo mejorar. Incluso cierta frustración cumplía una función porque obligaba al cerebro a permanecer frente a un problema cuando la solución no aparecía inmediatamente.

La IA puede alterar radicalmente ese proceso porque es capaz de entregar el producto sin exigir necesariamente todo ese recorrido mencionado anteriormente. Un modelo o LLM puede producir un ensayo magnífico y, paradójicamente, resolver perfectamente la tarea mientras elimina buena parte de aquello que la tarea pretendía enseñar.

Imagen generada con IA: El chatbot elimina gran parte del viaje del proceso de hacer la tarea

Externalizar lo que sabemos hacer no es igual que externalizar lo que estamos aprendiendo

La diferencia puede entenderse comparando a dos personas que utilizan exactamente la misma herramienta. Un profesional de 45 años puede pedirle a ChatGPT que prepare el primer borrador de un informe que perfectamente podría escribir por sí mismo. Después de décadas trabajando, probablemente sabe detectar argumentos débiles, inconsistencias, errores y afirmaciones que necesitan evidencia.

Ahora imaginemos a un estudiante de 14 años utilizando ChatGPT para redactar un ensayo. Precisamente está desarrollando ese criterio que incluye las capacidades que el adulto ya posee: estructurar argumentos, distinguir fuentes confiables, escribir con claridad, cuestionar una conclusión y construir una opinión propia.

Superficialmente, ambos están haciendo lo mismo. Cognitivamente, ocurre algo muy diferente. El adulto puede estar automatizando una competencia adquirida; el adolescente puede estar evitando el proceso mediante el cual debería adquirirla. Esa distinción debería convertirse en uno de los principios fundamentales de la inteligencia artificial aplicada a la educación.

La IA no inventó la pereza cognitiva, pero puede industrializarla

Cada generación ha acusado a alguna tecnología de volver intelectualmente perezosa a la siguiente. Las calculadoras supuestamente acabarían con las matemáticas, Wikipedia con las enciclopedias, Google con la memoria y los teléfonos inteligentes con nuestra capacidad de concentración. Muchas de esas predicciones resultaron exageradas porque las tecnologías también liberaron capacidades para realizar tareas más complejas.

La IA generativa introduce, sin embargo, una diferencia de escala. Una calculadora externaliza principalmente operaciones matemáticas y un buscador ayuda a localizar información. ChatGPT y los chatbots puede intervenir simultáneamente en la búsqueda, síntesis, comparación, argumentación, redacción, programación, corrección y elaboración de conclusiones.

Esto no significa que utilizar ChatGPT vuelva automáticamente perezoso a un estudiante. El problema aparece cuando la delegación deja de ser ocasional y se transforma en comportamiento predeterminado. Como planteamos anteriormente en Techcetera, la posible pereza provocada por la IA, la eficiencia inmediata puede venir acompañada por una menor ejercicio de determinadas capacidades cognitivas cuando comenzamos a delegarlas constantemente.

Imagen generada con IA: La IA no debe pensar por usted

Tener respuestas infinitas no garantiza desarrollar curiosidad

Uno de los aspectos más fascinantes de ChatGPT es su capacidad para convertirse en una especie de profesor disponible permanentemente. Un adolescente puede pedirle que explique la fotosíntesis como si tuviera diez años, volver a explicarla con mayor profundidad, presentar un ejemplo, crear un ejercicio y finalmente comprobar si comprendió correctamente el concepto.

Nunca habíamos tenido una herramienta educativa de semejante escala. Un profesor particular capaz de explicar casi cualquier materia durante las 24 horas puede democratizar oportunidades educativas que antes dependían de la capacidad económica de cada familia.

El problema aparece cuando esa misma herramienta se utiliza para evitar el recorrido intelectual. El adolescente puede pedir una explicación hasta comprender álgebra o simplemente solicitar la solución; puede debatir una novela después de leerla o pedir un resumen sin abrir el libro; puede utilizar la IA para criticar un ensayo propio o pedirle que escriba uno desde cero.

Así las cosas, si la primera generación de internet compitió por nuestros clics. La segunda compitió por nuestra atención. La inteligencia artificial puede terminar compitiendo por algo mucho más profundo: nuestra atención, dependencia intelectual y, en casos extremos, hasta emocional.

Imagen generada con IA: El riesgo- transformarnos en usuarios dependientes