A l’heure de l’IA Générative, les utilisateurs doivent être éduqués sur l’utilisation de leurs données

 Présentée comme un véritable assistant personnel, cette nouvelle IA se base essentiellement sur les données stockées en interne, et aidera l’utilisateur à rédiger un mail, synthétiser ses notifications, ou retoucher ses photos. Si Tim Cook rappelle qu’Apple fait de la confidentialité une priorité, Apple Intelligence interroge tout de même sur le traitement des données, et le risque d’exposition, à l’heure où transparence, interprétabilité et explicabilités des modèles d’IA sont au cœur des débats.

Avec le lancement d'Apple Intelligence, de puissantes capacités d'IA générative vont être mises entre les mains des consommateurs. Cette technologie va changer la façon dont les utilisateurs découvrent et consomment les données par le biais de simples interactions conversationnelles.

Mais il est important de rappeler qu'il ne s'agit que des prémices de l'IA générative. Tout reste à faire - les utilisateurs doivent être éduqués sur la manière de poser les questions susceptibles de générer des réponses utiles et voudront une plus grande transparence sur la manière dont leurs données personnelles seront utilisées pour alimenter et faire fonctionner les modèles d'IA.

En définitive, il n'y a pas de compromis dans le développement de l'IA. Les consommateurs et les régulateurs exigeront des systèmes d'IA une transparence, une interprétabilité et une "explicabilité". Et pour développer une application qui tienne les promesses de son nom, il faudra des bases de données holistiques, de haute qualité et bien gouvernées, avec une gestion adéquate de l'accès aux données et des contrôles de confidentialité intégrés. »