A Meta felügyeleti bizottsága, az Oversight Board megállapította, hogy egy Facebook-videó, ami tévesen pedofilnak nevezte Joe Biden amerikai elnököt, nem sérti a Meta jelenlegi szabályzatát. Azt is megállapította viszont, hogy a deepfake-szabályzat zavaros és túlságosan az AI generálta tartalmakra fókuszál.

A Meta által finanszírozott, de független bizottság felhasználói panaszra vizsgálta ki az októberi videót, amit manipuláltak. A mostani döntésük az első, ami a manipulált médiatartalmakat érintő irányelvhez kapcsolódik. Ez tiltja a manipulált videókat – miközben egyre jobban aggódnak, hogy az AI-vel ilyen-olyan módokon befolyásolják a választásokat.

A biztosság szerint a Metának frissíteni kell a szabályokat, és függetleníteni attól, hogy AI-t használt-e valaki a manipulációhoz. Címkézni is kellene a manipulált tartalmakat. A fotókra a javaslat nem vonatkozik (csak videókra és audiotartalmakra), akkor ugyanis túl nehéz lenne betartani az irányelveket ekkora méretben.

A Meta azt tervezi, hogy frissíti a szabályzatot, tekintettel az új és egyre életszerűbb AI-ra. A mostani jelentésre 60 napon belül konkrétan is reagálnak.

A hamisított Biden-videó a bizottság szerint jogos, hogy a közösségi médiában keringett, ugyanis a jelenlegi szabályzat szerint csak akkor tilos a félrevezető videó, ha AI gyártotta vagy olyat mond egy ember rajta, amit valójában nem mondott ki soha.

A bizottság szerint azonban a nem AI által manipulált tartalomból igen sok van, és nem kevésbé félrevezetőek ezek sem. Így meg kellene állítani az olyan videókat és hanganyagokat, amikben az emberek olyan dolgokat tesznek, amiket a valóságban sosem tettek. Közölték: nem csak törölgetni kellene, hanem minden ilyen tartalmak felcímkézni.