Margrethe Vestager peger mod vandmærkning af billeder fra AI: “Vi er optaget af, hvordan det bruges”

3 comments

1. > Nu skal alle jo ikke straffes fordi én tog sit liv. Det var sgu nok sket uden involvering af teknologi alligevel.

   Det virker til at du ikke synes der bør komme lovgivning og eftersyn på området. Det er stort set alle eksperter så uenig med dig i.

   Du har jo så også valgt kun at have en lille del af citatet med. Her er den fulde:

   > – Jeg hælder derhen af, at man bør kategorisere Chat-GPT som en høj risiko teknologi. Det mener jeg både fordi, vi har set datalæk fra Chat-GPT, men også fordi vi har set, at folk har fået tilhørsforhold til den, som da en person i Belgien desværre begik selvmord efter samtaler med den. Så på den baggrundmener jeg, at vi bør være meget varsomme med den teknologi, siger Noah Sturis.

   Idéen med vandmærkning af billeder er fin. “DeepFakes” via modeller trænet i programmer som Stable Diffusion kommer til at være et kæmpe problem, såvel som alle de andre slags billeder kan laves, som vi ikke vil være glade for begynder at blive gængst tilgængeligt indhold. Problemet er bare, som artiklen også skriver, at det er grænsende til umuligt at lave. Og da slet ikke som et lodret vandmærke på billedet – så åbner man det jo bare i photoshop, og skærer den del fra (eller bruger Content Aware Fill funktionen). Selv hvis det var “krypteret” ind i billedet, enten i form af pixels eller data i filentypen, ville dette også let kunne omgås: tag et screenshot, smid det ind i Photoshop – nul fil information. Gør billedet 10% mindre, og bum, der forsvandt pixel informationen også.

   Det er nogle svære spørgsmål der skal til at svares på.

   For slet ikke at begynde at komme ind på, om det nu er smart at give ChatGPT 4 evnen til at bruge internettet og skrive sine egne filer på computeren (AutoGPT mm.) – og selv hvis det ikke er et problem nu, hvad så med GPT 5 og 6 i fremtiden?

   Der sker meget.

2. Et forsigtighedsprincip er fint her. Endnu mere fordi der snart vil blive begået rovdrift på ikke-tekniske kunder, der tror de taber i markedet, hvis ikke de køber en dyr pseudo-ydelse fra en såkaldt “AI”-tjeneste. Kan allerede høre marketingbureauerne slikke sig om munden.

   Alle og deres bedstemor kommer til at lave online marketing nu. Og det er umuligt for små virksomheder at vide sig sikre på hvad de køber og får.

3. AI er lige som ild. God til bearbejdning og pisse farlig. Lige nu leger rigtig mange med AI som var det gnister, og uden at vide hvordan det opfører sig. På et tidspunkt starter der en brand og det vil ske mange gange. Mennesker vil dø.

   AI SKAL reguleres på lige fod med ild og der skal være et “brandvæsen”