L’information est une denrée précieuse. Et grâce à la technologie, il y a millions de téraoctets de celui-ci en ligne.

Les outils d'intelligence artificielle (IA) tels que ChatGPT gèrent désormais ces informations en notre nom – les rassemblant, les résumant et nous les présentant.

Mais cette « externalisation » de la gestion de l’information vers l’IA – aussi pratique soit-elle – a des conséquences. Cela peut influencer non seulement ce qu'elle vous dit. Recherchez des informations adaptées à l'âge des enfants et examinez-les ensemble. nous pensons, mais potentiellement aussi how nous pensons.

Que se passe-t-il dans un monde où les algorithmes d’IA décident quelles informations sont perpétuées et lesquelles sont laissées de côté ?

L’essor de l’IA personnalisée

Les outils d'IA générative sont construits sur des modèles formés sur des centaines de gigaoctets de données. données préexistantes. À partir de ces données, ils apprennent à créer de manière autonome du texte, des images, du contenu audio et vidéo, et peuvent répondre aux requêtes des utilisateurs en rassemblant la réponse « la plus probable ».

ChatGPT est utilisé par des millions de personnes, bien qu'il ait été rendu public il y a moins d'un an. En juin, l'ajout de réponses personnalisées a rendu le chatbot déjà impressionnant encore plus utile. Cette fonctionnalité permet aux utilisateurs d'enregistrer des instructions personnalisées expliquant pourquoi ils utilisent le bot et comment ils souhaitent qu'il réponde.

Il s’agit de l’un des nombreux exemples d’« IA personnalisée » : une catégorie d’outils d’IA qui génèrent du contenu adapté aux besoins et préférences spécifiques de l’utilisateur.

Un autre exemple est le lancement récent de Meta assistant virtuel, Méta-IA. Ce chatbot peut avoir des conversations, générer des images et effectuer des tâches sur les plateformes Meta, notamment WhatsApp, Messenger et Instagram.

Chercheur en intelligence artificielle et co-fondateur de DeepMind, Mustafa Suleyman, décrit L’IA personnalisée comme étant plus une relation qu’une technologie :

C'est un ami. […] Il va vraiment être toujours présent et à vos côtés, vivant avec vous – essentiellement dans votre équipe. J’aime y penser comme si j’avais un excellent entraîneur à mes côtés.

Mais ces technologies sont également controversées, avec des inquiétudes soulevées la propriété des données, biais ainsi que désinformation.

Les entreprises technologiques tentent de trouver des moyens de lutter contre ces problèmes. Par exemple, Google a ajouté des liens sources vers des résumés de recherche générés par l'IA et produits par son Recherche d'expérience générative (SGE), qui a été critiqué plus tôt cette année pour offrir réponses inexactes et problématiques.

La technologie a déjà changé notre façon de penser

Comment les outils d’IA générative – et en particulier ceux qui nous sont personnalisés – changeront-ils notre façon de penser ?

Pour comprendre cela, revenons au début des années 1990, lorsque Internet est apparu pour la première fois dans nos vies. Les gens pouvaient soudainement accéder à des informations sur à peu près n'importe quoi, qu'il s'agisse de la banque, de la pâtisserie, de l'enseignement ou des voyages.

Près de 30 ans plus tard, des études ont montré comment le fait d’être connecté à cet « esprit de ruche » mondial a modifié notre cognition, notre mémoire et notre créativité.

Par exemple, avoir un accès instantané à l'équivalent de 305.5 milliards de pages d'information a augmenté la capacité des gens méta-connaissance – c’est-à-dire leur connaissance de la connaissance. L’un des impacts de ceci est le « Effet Google» : un phénomène dans lequel la recherche en ligne augmente notre capacité à trouver des informations, mais réduit notre mémoire de ce qu'étaient ces informations.

D'une part, il a été démontré que confier notre réflexion aux moteurs de recherche libère nos réserves mentales pour résolution de problèmes et pensée créative. D’un autre côté, la recherche d’informations en ligne a été associée à une augmentation distraction et dépendance.

La recherche montre également que la recherche en ligne – quelle que soit la quantité ou la qualité des informations récupérées – augmente notre estime de soi cognitive. En d’autres termes, cela accroît notre confiance en notre propre « intelligence ».

Ajoutez à cela le fait que questionner les informations demande un effort – et que plus nous faisons confiance à notre moteur de recherche, moins nous sommes critiques s'engager avec ses résultats – et vous comprenez pourquoi l’accès à des quantités d’informations sans précédent ne nous rend pas nécessairement plus sages.

Devrions-nous « externaliser » notre réflexion ?

Les outils d’IA générative d’aujourd’hui vont bien plus loin que la simple présentation de résultats de recherche. Ils localisent pour nous les informations, les évaluent, les synthétisent et nous les présentent.

Quelles pourraient en être les implications ? Sans promouvoir un contrôle qualité piloté par l’homme, les perspectives ne sont pas prometteuses.

La capacité de l'IA générative à produire des réponses qui semblent familières, objectives et engageantes signifie qu'elle nous rend plus vulnérables aux biais cognitifs.

La biais d'automatisation, par exemple, est la tendance humaine à surestimer l’intégrité des informations provenant de sources informatiques. Et le simple exposition L'effet se produit lorsque nous sommes plus susceptibles de faire confiance aux informations présentées comme familières ou personnelles.

La recherche sur les réseaux sociaux peut nous aider à comprendre l’impact de ces préjugés. Dans une étude de 2016, les utilisateurs de Facebook ont ​​rapporté se sentir plus « au courant » en fonction de la quantité de contenu d’actualité publié en ligne – et non de la quantité réellement lue.

Nous savons aussi que «bulles de filtre» créés par les algorithmes des médias sociaux – dans lesquels nos flux sont filtrés en fonction de nos intérêts – limitent la diversité du contenu auquel nous sommes exposés.

Il a été démontré que ce processus de rétrécissement de l'information augmente polarisation idéologique en réduisant la propension des gens à envisager des perspectives alternatives. Il a également été démontré qu'il augmente notre probabilité d'être exposé à fausses nouvelles.

Utiliser l’IA pour être plus intelligent et non plus stupide

L’IA générative est sans aucun doute une force révolutionnaire susceptible de faire de grandes choses pour la société. Cela pourrait remodeler notre système éducatif en fournissant contenu personnalisé, changer nos pratiques de travail en accélérant rédaction et analyse d'informations, et repousser les frontières de découverte scientifique.

Il a même le potentiel de modifier positivement nos relations en nous aidant à communiquer et à nous connecter avec les autres et peut parfois fonctionner comme un outil de communication. forme de camaraderie synthétique.

Mais si notre seule façon de juger l’avenir est de regarder vers le passé, le moment est peut-être venu de réfléchir à la manière dont Internet et les médias sociaux ont modifié notre cognition et d’appliquer certaines mesures. des mesures de précaution. Développement Alphabétisation de l'IA est un bon point de départ, tout comme la conception d’outils d’IA qui encouragent l’autonomie humaine et la pensée critique.

En fin de compte, nous devrons comprendre à la fois nos propres et les forces et les faiblesses de l'IA pour garantir que ces compagnons « pensants » nous aident à créer l’avenir que nous voulons – et non celui qui se trouve en tête de liste.

Sarah Vivienne Bentley, Chercheur scientifique, Innovation responsable, Data61, CSIRO; Claire Maçon, chercheur principal, CSIROet Einat Grimberg, chercheur postdoctoral en technologie et sciences sociales, CSIRO

Cet article est republié de The Conversation sous une licence Creative Commons. Lis le article original.