High-tech : les nouveaux smartphones à l’IA générative fascinent et inquiètent

Les nouveaux smartphones dotés d’outils d’intelligence artificielle (IA) générative séduisent leurs futurs utilisateurs mais suscitent aussi des craintes, comme à Santa Cruz, en Californie, où l’AFP a proposé aux passants de tester le Pixel 9 de Google, en vente depuis le mois dernier.

«Je lui ai posé une question et il m’a donné une réponse rapide», s’enthousiasme Matthew Day, qui voulait savoir si le nouveau smartphone de Google pouvait lui indiquer un bon coin pour aller à la pêche. «C’est beaucoup mieux que mon téléphone actuel, je vous le dis», poursuit-il. Gail Pellerin, élue de l’Assemblée californienne, a demandé au smartphone une photo amusante de son chien devant le capitole.

Effet boule de neige
Les nouveaux smartphones contiennent «certainement des outils incroyables pour faire des choses créatives et trouver des informations», reconnaît-elle. Mais elle s’inquiète au sujet de potentiels usages malveillants.

«Nous devons mettre en place des garde-fous et des réglementations afin d’éviter que cela ne cause des ravages dans certains secteurs ou communautés», a-t-elle ajouté.

Elle soutient donc une loi californienne adoptée récemment par le Parlement de l’État, visant à empêcher l’utilisation de l’IA générative à des fins de désinformation et de falsification, notamment. Popularisée par ChatGPT depuis fin 2022, l’IA générative permet de produire des contenus de bonne facture (textes, images, vidéos, etc.) sur simple requête en langage courant.

Google, Microsoft et Meta, notamment, ont ajouté de nombreux outils à leurs logiciels et plateformes, visant à créer des sortes d’assistants IA qui rédigent des messages pour leurs utilisateurs, ou répondent à leurs questions. Les tout nouveaux iPhone seront les premiers appareils d’Apple à intégrer son propre système d’IA générative, «Apple Intelligence».

Un modèle pas si parfait
Leilani Gilpin, professeure d’informatique à l’université, s’interroge sur la nécessité de mettre la nouvelle technologie dans la poche des gens, surtout étant donnée la propension de ces outils à «halluciner», c’est-à-dire à inventer des faits, avec aplomb, quand ils n’ont pas la réponse.

«Que ce soit pour des questions anecdotiques ou pour générer des images ou d’autres choses, il y aura des informations inventées, c’est simplement la façon dont les modèles d’IA fonctionnent», souligne-t-elle.

Elle apprécie l’idée d’engager une conversation avec la machine lors d’une promenade, mais elle préfèrerait parler avec une personne en chair et en os. «Je travaille sur beaucoup de ces technologies, et j’ai l’impression que ça rassemble beaucoup aux arguments marketing que j’ai déjà vu avant», a-t-elle déclaré. «Je ne pense pas que ça va être très révolutionnaire». L’enseignante trouve également que l’IA du smartphone se perd dans des détails et manque de concision dans ses réponses.

Le public comme baromètre
Igor Gaspar et ses amis, eux, ont choisi de tester la fonction «Add Me» du Pixel 9, qui permet de prendre une photo de groupe et d’y ajouter le photographe, pour n’omettre personne. Ce n’est pas de l’IA générative, mais «c’est un outil vraiment impressionnant», s’extasie le jeune homme de 23 ans.

«Mais dans le contexte actuel de guerre de l’information, je pense que beaucoup de gens pourraient être effrayés par certains aspects futuristes, comme le fait de pouvoir s’ajouter à une photo de façon aussi réaliste».

Il craint que l’intégration de ces fonctionnalités dans les iPhone ne lui fasse perdre le goût des produits Apple, à moins qu’il n’ait l’impression de maîtriser totalement la technologie.

«Je ne me sentirais pas à l’aise avec quelque chose de si sophistiqué que nous ne savons même pas comment ça marche sur nos téléphones», détaille-t-il, ajoutant qu’il veut «avoir le choix» d’utiliser ou non les nouveaux outils.

Les grandes entreprises de la Silicon Valley toute proche évaluent les réactions du public et des autorités au fur et à mesure qu’elles dévoilent de nouveaux produits d’IA générative, et recalibrent leurs modèles en conséquence. Google a par exemple configuré Gemini, son assistant IA, pour qu’il refuse de parler d’élections ou de politique sur le Pixel. Et l’outil de génération d’images ne peut pas représenter des personnes réelles.

Sami Nemli Avec Agence / Les Inspirations ÉCO