Sam Altman alerta sobre el peligro de utilizar ChatGPT como psicólogo y confiarle las decisiones más importantes
El CEO de OpenAI, Sam Altman, ha dicho que no se siente cómodo con la forma en que la gente consulta a ChatGPT para tomar decisiones vitales. “Mucha gente utiliza de hecho ChatGPT como una especie de terapeuta o coach de vida, aunque no lo describiría así”, escribió Altman el domingo en X.
“Puedo imaginar un futuro en el que mucha gente confíe de verdad en el consejo de ChatGPT para sus decisiones más importantes. Aunque eso podría ser positivo, me incomoda”, añadió Altman. OpenAI no respondió a una solicitud de comentarios de Business Insider. Altman señaló en su publicación que OpenAI ha estado “siguiendo de cerca” el grado de apego de la gente a sus modelos de IA y cómo reaccionan cuando se retiran versiones antiguas.
“La gente ha utilizado la tecnología, incluida la IA, de maneras autodestructivas”, escribió Altman el domingo. “Si un usuario se encuentra en un estado mental frágil y propenso a las ilusiones, no queremos que la IA refuerce eso”.
Altman indicó que, aunque la mayoría de los usuarios de ChatGPT pueden distinguir “entre la realidad y la ficción o el juego de rol”, hay una minoría que no. Añadió que ChatGPT podría ser perjudicial si desvía a las personas de su “bienestar a largo plazo”.
“Esto es solo mi pensamiento actual y no es aún una postura oficial de OpenAI”, señaló Altman. En su publicación, Altman también hizo referencia a la reacción negativa de algunos usuarios de ChatGPT tras el lanzamiento de GPT-5 el viernes.
Algunos usuarios, por ejemplo, pidieron a OpenAI que restaurara modelos antiguos como GPT-4o. Hubo publicaciones en redes sociales que expresaban quejas sobre GPT-5, señalando que las respuestas del modelo tenían un tono “plano” y carecían de creatividad.
OpenAI también ha modificado sus modelos. En abril, la empresa anunció que estaba retirando una actualización de GPT-4o porque el modelo se había vuelto servil y era “excesivamente halagador” con los usuarios.
Altman ya había expresado antes su preocupación sobre el uso de ChatGPT como terapeuta personal y los problemas legales que ello plantea. En un pódcast emitido el mes pasado, Altman dijo al presentador Theo Von que OpenAI podría verse obligada a entregar las conversaciones de estilo terapéutico de los usuarios en un proceso judicial.
“Así que, si vas a hablar con ChatGPT sobre tus cosas más sensibles y luego hay una demanda o lo que sea, podríamos vernos obligados a entregarlo, y creo que eso es una auténtica locura”, dijo Altman. “Hace un año nadie tenía que pensar en eso, y ahora creo que es un gran problema sobre cómo vamos a tratar las leyes en torno a esto”, añadió Altman.
Fuente : https://www.businessinsider.es/estilo-vida/sam-altman-alerta-peligro-utilizar-chatgpt-como-psicologo-confiarle-decisiones-importantes-1477598?utm_source=firefox-newtab-es-es
Comentarios
Publicar un comentario