Num cenário onde as imagens e vídeos gerados por inteligência artificial (IA) se tornam cada vez mais realistas, o Instagram está a ponderar uma mudança estratégica passando a certificar o que é real, em vez de tentar identificar tudo o que é falso.
A ideia foi avançada por Adam Mosseri, CEO da plataforma, que sugeriu a possibilidade de usar “fingerprinting” — ou impressão digital — de fotografias e vídeos captados por humanos, de forma a distingui-los claramente de conteúdos gerados por IA.
Segundo Mosseri, durante décadas foi seguro assumir que uma fotografia representava um momento real mas essa premissa deixou de ser válida num ecossistema onde ferramentas de IA conseguem produzir imagens altamente convincentes em segundos. Perante essa realidade, o Instagram considera a possibilidade de inverter a questão e passar não perseguir infinitamente conteúdos sintéticos, mas a atribuir selos de autenticidade ao conteúdo humano.
Uma das soluções em estudo passa pela aplicação de marcadores de proveniência, como metadados ou assinaturas criptográficas, no momento da captura do conteúdo. Estes sinais funcionariam como uma prova de origem, permitindo identificar conteúdos genuínos mesmo quando os sistemas de deteção de IA falham.
O Instagram já aplica etiquetas básicas a algumas publicações geradas por IA, mas Mosseri reconheceu que essas medidas se irão tornar menos eficazes com o tempo, uma vez que marcas d’água e avisos podem ser removidos ou falsificados de forma convincente.