Pour son projet de thèse, ce chercheur s'intéresse à la génération automatique d'articles de presse. Le 11 avril, il était au Web à Québec pour donner une conférence sur les fausses nouvelles liées à l'intelligence artificielle. Aux nombreux spectateurs venus l'écouter, il a lancé un appel à la prudence, exposant les différentes avancées technologiques qui permettent de créer du contenu inventé de toutes pièces.
Entre autres exemples, Open IA, un centre de recherche basé à San Francisco, a mis sur pied un logiciel qui permet de générer de faux textes très convaincants. La technologie est si puissante que ses concepteurs ont choisi de ne pas la rendre publique. Selon eux, le logiciel pourrait être utilisé par des internautes malveillants pour produire de fausses nouvelles et automatiser leur diffusion sur les réseaux sociaux.
Autre phénomène inquiétant, le deepfake est une technologie qui consiste à remplacer le visage et la voix d'une personnalité dans une vidéo. Nombre de politiciens et d'acteurs ont fait les frais de cette falsification et ont vu leur alter ego livrer de faux discours ou jouer dans un film auquel ils n'avaient jamais participé. «Bien que les vidéos soient réalistes, les modèles utilisés ne sont pas encore parfaits, précise Nicolas Garneau. Si on s'attarde à certaines parties plus complexes de l'image, on peut voir qu'il y a parfois des glitchs. Or, d'une façon générale, l'effet est si réaliste que c'est à s'y méprendre. Contrairement aux textes, où les incohérences sur les plans sémantique et syntaxique sont rapidement décelées, il est très difficile pour l'œil de détecter une anomalie dans les pixels d'une vidéo.»
Pour le doctorant, les technologies actuelles ne sont que la pointe de l'iceberg qui nous attend. «Plusieurs gros joueurs, comme Facebook et Google, s'intéressent à la génération de contenu en intelligence artificielle. En termes de recherche, on est avancé, mais pas tant que ça. Plusieurs bloqueurs freinent le développement, dont les capacités computationnelles et l'énorme quantité de données requises pour obtenir des modèles très performants», conclut-il.
Photo : André-Olivier Lyra