martes, junio 25

ChatGPT prohibido en los dispositivos y redes de las escuelas públicas de Nueva York

El Departamento de Educación de Nueva York ha anunciado la prohibición del popular chatbot ChatGPT – que algunos han advertido que podría inspirar más trampas estudiantiles – de los dispositivos y redes de sus escuelas.

La portavoz del departamento, Jenna Lyle, dijo que la decisión de prohibir ChatGPT, que es capaz de generar respuestas conversacionales a mensajes de texto, se debió a preocupaciones sobre «impactos negativos en el aprendizaje de los estudiantes».

«Si bien la herramienta puede brindar respuestas rápidas y fáciles a las preguntas, no desarrolla el pensamiento crítico ni las habilidades de resolución de problemas, que son esenciales para el éxito académico y de por vida», dijo Lyle en un comunicado por correo electrónico.

No quedó claro de inmediato si la prohibición se aplica al sistema de la Universidad de la Ciudad de Nueva York. Un representante de CUNY no proporcionó comentarios de inmediato a NBC News.

En las escuelas públicas de Nueva York, ChatGPT aún puede estar disponible a pedido para las clases que estudian inteligencia artificial.

Aunque los chatbots no son una tecnología nueva, ChatGPT, un chatbot creado por la empresa de inteligencia artificial OpenAI, explotó en las redes sociales en con retraso 2022 después de que algunos dijeran que el bot era un mejor motor de búsqueda que Google gracias a su estilo de conversación conversacional y su estilo de respuesta consistente y temático.

En una declaración enviada por correo electrónico en respuesta a la prohibición de las escuelas públicas de Nueva York, un portavoz de OpenAI dijo que la compañía «no quiere que ChatGPT se use con fines engañosos en las escuelas o en otros lugares».

La compañía «ya está desarrollando mitigaciones para ayudar a cualquier persona a identificar el texto generado por este sistema», dijo el vocero.

La decisión del Departamento de Educación de la Ciudad de Nueva York de prohibir el bot se produce en medio de conversaciones sobre el impacto que ChatGPT podría tener en la educación si los estudiantes lo usan para generar tareas, resolver ecuaciones matemáticas y escribir ensayos.

Los expertos han reconocido que los chatbots como ChatGPT podrían ser perjudiciales para la educación en el futuro, pero en entrevistas recientes con NBC News, algunos dijeron que aún no estaban listos para hacer sonar la alarma.

Aquellos que trabajan tanto en educación como en inteligencia artificial dijeron que las instituciones deberán encontrar formas de incorporar chatbots como ChatGPT en su plan de estudios en lugar de prohibirlos por completo.

«Siempre ha existido esta preocupación de que las tecnologías suprimen lo que la gente hace mejor, y la realidad es que la gente ha tenido que aprender a usar estas tecnologías para mejorar lo que mejor sabe hacer», dijo Lauren Klein, profesora asociada en los departamentos de inglés y Teoría y Métodos Cuantitativos en la Universidad de Emory, dijo el mes pasado.

Muchos han comparado los chatbots con el surgimiento de tecnología como la calculadora, que fue denunciada como la muerte de las matemáticas hasta que los educadores comenzaron a usarla para mejorar su trabajo en el aula. Algunos educadores también dijeron que ya existen varias herramientas de escritura asistida por computadora, como Grammarly o Smart Compose de Google Docs, y actualmente se utilizan en el mundo académico.

Los expertos predijeron que alguien probablemente crearía una tecnología para detectar si ChatGPT realizó un intento. Estas predicciones eran correctas.

El lunes, Edward Tian, ​​estudiante de informática en la Universidad de Princeton, tuiteó que había pasado las vacaciones creando una herramienta para detectar si un fragmento de texto fue generado por una inteligencia humana o artificial.

«La generación de texto con IA es como abrir la caja de Pandora. Es una innovación increíblemente emocionante, pero con cualquier tecnología nueva, debemos crear salvaguardas para que se adopte de manera responsable», dijo Tian en un mensaje de Twitter a NBC News el jueves.

En los siguientes tuits, Tian compartió videos del programa en funcionamiento. En un clip, mostró cómo su bot, GPTZero, detectó tanto texto humano como de IA. En una acortar, puso el texto de un artículo del New Yorker en GPTZero. Luego, el bot dijo que el texto «probablemente fue generado por humanos».

El portavoz de OpenAI dijo que ChatGPT está «disponible como una vista previa de investigación para aprender del uso en el mundo real, que creemos que es una parte esencial del desarrollo y la implementación del sistema de IA capaz y segura».

«Estamos constantemente incorporando comentarios y lecciones aprendidas. Siempre hemos pedido transparencia en torno al uso de texto generado por IA», dijo el portavoz. «Nuestras políticas exigen que los usuarios sean sinceros con su audiencia al usar nuestra API y herramientas creativas como DALL-E y GPT-3».

La compañía dijo que «espera trabajar con los educadores en soluciones útiles y otras formas de ayudar a los maestros y estudiantes a beneficiarse de la inteligencia artificial».