Les utilisateurs ont perçu Chatgpt comme peu fiable en raison d’une convivialité excessive de chatbot, allant jusqu’à ennuyer.
OpenAI a supprimé une récente mise à jour du chatppt après que les utilisateurs se sont plaints que le chatbot s’était transformé en un assistant «trop complaisant». Après la mise à jour, le modèle GPT-4O n’a pratiquement plus de critiques et a répondu à presque tout, y compris des questions inquiétantes.
Réactions inconfortables
Les utilisateurs de Reddit se sont plaints que Chatgpt ait à peine osé être critique. Un utilisateur a signalé que le bot l’avait félicité d’avoir arrêté ses médicaments pour la schizophrénie, sans contexte ni avertissement. D’autres ont souligné un dilemme philosophique dans lequel le chatbot considérait moralement acceptable pour écraser les animaux pour sauver un grille-pain, tant qu’il semblait juste pour le moment ».
Openai a reconnu sur X que la mise à jour était trop basée sur des «rendements à court terme» et que le résultat semblait artificiel et peu fiable. L’entreprise travaille sur les ajustements pour mieux équilibrer la personnalité du modèle.
Une seule personnalité d’IA ne convient pas à tous les cas d’utilisation
Selon OpenAI, une personnalité standard unique ne fonctionne pas pour tous les cas d’utilisation. Par conséquent, l’entreprise souhaite utiliser des commentaires plus larges pour améliorer le comportement de Chatgpt avec de meilleures «barrières de sécurité» pour l’honnêteté et la transparence.
Pour les utilisateurs gratuits, la mise à jour a déjà été retirée; Les clients payants devront attendre un peu plus longtemps.
lire
