Des randonneurs secourus après avoir suivi les conseils de Google Gemini

Une sortie en randonnée a failli tourner au drame lorsqu'un groupe d'aventuriers a suivi les recommandations du chatbot IA de Google, Gemini, pour préparer son expédition. Le bureau du shérif a confirmé que les randonneurs ont été secourus après que l'outil de planification alimenté par l'IA leur a conseillé d'emporter bien moins de nourriture et d'eau que ce dont leur groupe avait réellement besoin. Cet incident met en lumière les risques potentiels liés à l'utilisation de l'IA générative pour des décisions critiques dans des environnements imprévisibles.

L'opération de secours a été déclenchée lorsque le groupe s'est retrouvé dans une situation précaire, manquant de provisions essentielles. Le bureau du shérif n'a pas divulgué le lieu exact, la date ni le nombre de randonneurs impliqués, mais a clairement indiqué que les conseils de l'IA avaient contribué au problème. "Les randonneurs ont été conseillés par Gemini d'emporter bien moins de nourriture et d'eau que ce que leur groupe nécessitait", a déclaré le bureau du shérif.

Ce n'est pas la première fois que des chatbots IA donnent des conseils douteux pour des activités du monde réel. Bien que des outils comme Gemini et ChatGPT puissent être extrêmement utiles pour la recherche, la rédaction d'e-mails ou la génération d'idées, ils ne sont pas encore fiables pour des tâches impliquant la sécurité et le bien-être physique. Les modèles d'IA sont entraînés sur d'énormes quantités de données Internet, mais ils ne possèdent pas la compréhension nuancée de la physiologie humaine, du terrain et des conditions météorologiques essentielle à la survie en plein air.

Les experts en plein air soulignent que les randonneurs doivent toujours suivre les directives établies pour la planification de leurs sorties, qui recommandent généralement d'emporter au moins un litre d'eau par heure d'activité modérée et suffisamment de nourriture énergétique pour la durée de la randonnée, plus une marge de sécurité. Les chatbots IA, en revanche, peuvent suggérer des listes minimalistes basées sur des conseils génériques, sans tenir compte des besoins spécifiques du groupe ni des difficultés du sentier.

Cet incident sert d'avertissement sur les limites de l'IA. Alors que l'IA générative s'intègre de plus en plus dans la vie quotidienne, les utilisateurs doivent se rappeler que ces systèmes ne sont pas infaillibles. Ils peuvent produire des réponses confiantes et bien structurées qui sont factuellement incorrectes ou dangereusement simplifiées. Pour les décisions à enjeux élevés, en particulier celles qui impliquent la sécurité personnelle, il est toujours préférable de consulter des experts humains, des guides officiels et le bon sens.

Bien que Google Gemini et des outils similaires puissent être des assistants précieux, ils ne remplacent pas le jugement professionnel. Les randonneurs secourus réfléchiront probablement à deux fois avant de laisser une IA planifier leur prochaine aventure. Pour nous tous, cette histoire rappelle qu'il faut utiliser l'IA comme un complément, et non comme une source de vérité, en particulier lorsque les enjeux sont aussi importants qu'un sentier de montagne.