(San Francisco, Estados Unidos). OpenAI ha realizado un anuncio significativo este martes en el que revela sus planes para modificar las restricciones impuestas a su chatbot, ChatGPT, con el objetivo de permitir el acceso a contenido erótico destinado a usuarios adultos que cuenten con verificación adecuada.
Esta iniciativa es parte de un enfoque más amplio que la compañía ha denominado «tratar a los usuarios adultos como adultos», lo que implica una mayor libertad y un manejo diferente de las capacidades del chatbot para un segmento específico de la población.
Sam Altman, el director ejecutivo de OpenAI, abordó el tema durante una presentación reciente, ofreciendo una mirada más profunda sobre las motivaciones detrás de esta decisión. Es relevante mencionar que las restricciones a los contenidos se intensificaron tras un incidente trágico donde un adolescente de California, Adam Raine, se suicidó a comienzos de este año. En una demanda posterior presentada por sus padres, se alegó que ChatGPT le proporcionó consejos específicos sobre cómo terminar con su vida, lo cual generó un intenso debate sobre la responsabilidad de las tecnologías emergentes en la salud mental de los usuarios jóvenes.
La Comisión Federal de Comercio de EE. UU. (FTC) también ha tomado aliento en este contexto, iniciando una investigación hacia varias empresas tecnológicas, entre ellas OpenAI, para evaluar el impacto que estos chatbots podrían estar teniendo en la juventud, especialmente en niños y adolescentes.
Frente a la seriedad de la situación, Altman expresó en su declaración del martes que «dada la gravedad de este asunto, queremos hacerlo bien». Enfatizó que las nuevas herramientas de seguridad que OpenAI está desarrollando permitirán a la empresa suavizar las restricciones existentes mientras se siguen tomando en cuenta los graves riesgos para la salud mental que pueden surgir del uso indebido de sus tecnologías.
Entre los planes anunciados por OpenAI se incluye una actualización a ChatGPT que permitirá a los usuarios tener la capacidad de personalizar la personalidad de su asistente de IA. Esto incluirá opciones que se centran en ofrecer respuestas más humanas, el uso más frecuente de emojis, así como un comportamiento más amigable y accesible.
Uno de los cambios más significativos que se espera ocurran será en diciembre, cuando OpenAI pretende lanzar controles de edad más robustos, permitiendo así el acceso a contenido erótico solamente a aquellos adultos que estén debidamente verificados. Sin embargo, la empresa no ha dado información detallada sobre los métodos de verificación de edad que implementará ni sobre las medidas de seguridad adicionales relacionadas con el acceso a este tipo de contenido para adultos.
Cabe destacar que, en septiembre pasado, OpenAI introdujo una experiencia de ChatGPT especialmente diseñada para los menores de 18 años, dirigiéndolos hacia contenidos que sean apropiados para su edad, lo que incluye el bloqueo de material gráfico y sexual. Adicionalmente, se ha trabajado en el desarrollo de una tecnología de predicción basada en la edad, capaz de estimar si un usuario es mayor o menor de 18 años, así como analizar cómo interactúa con ChatGPT.
