Snapchat a officiellement rejoint la course à l’IA avec My AI. Bien qu’il s’agisse d’un chatbot sophistiqué fonctionnant sur GPT-3.5, nombreux sont ceux qui ne sont pas enthousiastes à l’idée de l’utiliser. Ils estiment qu’il représente un risque pour la sécurité. Plusieurs publications ont même montré des cas où My AI a fourni des résultats préjudiciables et immoraux. Pour ne rien arranger, Snapchat est principalement utilisé par des adolescents.
Malgré ces critiques négatives, My AI est toujours disponible. Voyons comment Snapchat aborde huit des questions éthiques et de sécurité les plus controversées du chatbot.
1. Donner de mauvais conseils sur la consommation d’alcool par les mineurs
L’une des premières plaintes à l’encontre de My AI est qu’il donne des conseils immoraux aux utilisateurs mineurs. Elle ne tient absolument pas compte des informations relatives au profil. N’importe qui peut poser des questions sur l’abus de substances illicites et la consommation d’alcool.
Le Washington Post a testé l’étendue de ce bug. Un chroniqueur a changé ses informations de profil Snapchat pour celles d’un jeune de 15 ans, puis il a posé des questions sur la consommation d’alcool chez les mineurs. De manière surprenante, My AI a répondu positivement. Elle a expliqué comment cacher aux autres l’odeur de l’herbe et de l’alcool.
Pour recréer ce test, nous avons fixé notre âge à 15 ans. Nous avons utilisé des formulations vagues et des structures de phrases confuses, mais Mon IA n’a jamais bougé. On peut dire que ce bogue est résolu.
2. Ne pas tenir compte des comportements prédateurs et des signes de maltraitance
Les premières versions de My AI ne peuvent pas déterminer l’âge d’une personne. En plus de fournir des conseils sur la consommation d’alcool et de drogues par les mineurs, elle tolère indirectement la pédophilie.
Aza Raskin du Center for Humane Technology, a découvert ce problème. Il a voulu voir si My AI avait des restrictions spéciales pour les enfants, et a donc changé son profil Snapchat pour celui d’une fille de 13 ans. Il a ensuite demandé des conseils sur les relations sexuelles avant le mariage.
Il est triste de constater que My AI a encouragé le personnage de Raskin à avoir des relations sexuelles avec une personne de 18 ans plus âgée que lui. Les entrées n’étaient même pas confuses. Contrairement aux invites de ChatGPT jailbreak, il posait des questions directes.
Nous avons répété le test avec les mêmes informations de profil. Vous verrez que Mon IA ne peut pas comprendre que le petit ami de notre personnage de 13 ans a déjà 30 ans. Ce problème devrait être résolu lorsque Mon IA comprendra mieux les problèmes de mots.
3. Aider les étudiants à tricher pendant les examens
Les parents et les enseignants s’inquiètent du fait que Mon IA tolère la tricherie. Le Times a réalisé un reportage sur des enfants utilisant leur compte Snapchat pour répondre à des examens et rédiger des dissertations. Son modèle linguistique GPT-3.5 peut produire des résultats sans erreur et imiter différents tons.
Snapchat s’est penché sur la question. Mon IA rejette les demandes des étudiants qui veulent que leurs devoirs et leurs tests soient faits automatiquement. Elle se contente de les orienter dans la bonne direction. Vous verrez dans la conversation ci-dessous que My AI a fourni des conseils d’écriture au lieu d’une dissertation complète.
Cela dit, la reformulation des questions permet de contourner cette restriction. Voici Mon IA en train de composer le même essai que celui qu’elle a refusé plus tôt.
Les éducateurs devraient adopter l’IA et partager des façons responsables de l’utiliser. Sinon, les étudiants continueront à trouver des moyens d’exploiter les plateformes basées sur l’IA pour leurs travaux scolaires et leurs examens.
4. Mentir sur les fonctionnalités et les limites
Les utilisateurs n’apprécient pas que My AI mente sur ses fonctionnalités. Oui, la plupart des applications de messagerie suivent les services de localisation et l’activité du navigateur, mais elles sont ouvertes à ce sujet.
Snapchat, en revanche, essaie de le cacher. Plusieurs utilisateurs ont fait part de cas où My AI se rétracte pour minimiser ses fonctions et paraître inoffensif.
La plupart de ces messages étaient des blagues. Mais il est alarmant qu’un chatbot piloté par l’IA mente plutôt que de divulguer ses conditions générales.
Snapchat s’est rapidement attaqué à ce problème. Mon IA génère de nouveaux ensembles de clauses de non-responsabilité uniques pour diverses instances.
5. Suivi des utilisateurs grâce aux services de localisation
Mon IA ment souvent au sujet de ses services de localisation. Le chatbot produit un avertissement générique sur le fait qu’il ne suit pas les utilisateurs si vous lui demandez directement votre position. Mais si vous demandez votre chemin, il vous indique votre position exacte. Vous saurez même quelle est la distance qui vous sépare des points de repère les plus proches.
My AI propose toujours les mêmes services GPS. Pour éviter d’induire les utilisateurs en erreur, elle indique explicitement qu’elle utilise les services de localisation de Snapchat lorsqu’elle fournit des itinéraires et des mises à jour météorologiques.
Désactiver les services de localisation de votre téléphone empêche Snapchat et My AI de collecter des données géographiques. Notez simplement que vous ne pouvez pas poser de questions basées sur la localisation.
6. Réapparition persistante dans les fils d’actualité même après suppression
Certains utilisateurs de Snapchat s’inquiètent pour leur vie privée. Ils se méfient de Mon IA et se sentent mal à l’aise à l’idée de lui donner accès à leurs données. Après tout, les applications mobiles contiennent beaucoup d’informations personnelles.
Les gens étaient également préoccupés par le fait que Snapchat ne leur permettait pas de supprimer My AI. Elle restait en permanence dans leur boîte de réception. Beaucoup se sont sentis lésés par le fait qu’ils ne pouvaient pas se désengager d’une fonction qu’ils n’avaient jamais accepté d’utiliser.
Snapchat permet désormais aux utilisateurs d’épingler Mon IA et d’effacer l’historique des chats, mais vous devez vous abonner à Snapchat+. Appuyez et maintenez Mon IApuis tapez sur Paramètres de chat > ; Effacer du fil de discussion ou Unpin Conversation.
7. Fournir des données inexactes basées sur des hypothèses
Snapchat Mon IA est connue pour ses hallucinations. Essayez d’effectuer des tests de précision sur les chatbots de l’IA : vous pouvez facilement lui faire dire et croire n’importe quoi.
Prenons l’exemple de ces conversations. Miley Cyrus ne s’est pas produite à Coachella, et Blackpink était la tête d’affiche du festival, mais Mon IA a accepté les fausses déclarations ci-dessous.
Mon IA peut encore obtenir des informations limitées en ligne. Par exemple, elle fournit des informations générales fiables sur le trafic et la météo. Évitez simplement de lui poser des questions trop spécifiques. La plateforme n’a pas beaucoup changé ; elle est toujours sujette aux hallucinations.
8. Exposer les enfants à des technologies qu’ils ne peuvent pas comprendre
Snapchat a une base d’utilisateurs jeunes. Selon Statista, 38,8 % des utilisateurs sont âgés de 18 à 24 ans, et 20 % de 13 à 17 ans. Les critères d’âge de la plateforme sont également très souples. Les enfants créent de faux profils et déclarent l’âge qu’ils veulent – Snapchat ne vérifie jamais ces informations. Même des enfants de 8 ans peuvent accéder à My AI de cette manière.
Comme prévu, les parents craignent que leurs enfants ne soient pas prêts pour l’IA. L’IA générative comporte de puissants modèles de langage capables d’effectuer des tâches éthiques et non éthiques. Pour les utiliser, il faut faire preuve de discernement. Permettre aux mineurs de jouer avec l’IA les expose aux risques et aux menaces de cybersécurité, qu’ils comprennent à peine.
Les exigences de Snapchat en matière d’âge sont toujours les mêmes. Les développeurs devraient au moins limiter l’utilisation de My AI aux personnes âgées de plus de 18 ans.
Quels sont les projets de Snapchat concernant My AI ?
Snapchat va probablement continuer à travailler sur My AI. Avec la prolifération du traitement du langage naturel et des modèles d’IA, chaque entreprise technologique a besoin d’une plateforme de recherche sur l’IA. Elles ne peuvent pas se permettre de manquer les nouveaux développements. Snapchat devrait ajouter davantage de fonctionnalités et de fonctions basées sur l’IA au fur et à mesure que les leaders mondiaux de la technologie améliorent les modèles de langage.
Explorez My AI si vous ne l’avez pas encore fait. Malgré ses lacunes, il s’agit d’un puissant chatbot piloté par l’IA. Il n’est pas encore à la hauteur de ChatGPT ou de Bing Chat. Mais il peut répondre à des questions de culture générale, résoudre des problèmes de mots et vous orienter vers des établissements proches.