Problemet är inte verkyget, utan hur verktyget används och resultatet sprids. Om du skulle generera en sadan bil/film och spara den privat och lokalt, utan att sprida det pa internet hade det inte varit ett problem, om än en moralisk grazon.

Problemet kommer när sadana media genereras och sprids pa internet, utan tillstand av personen ifraga som är med i resultatet. För personer som utsätts ofrivilligt kan det orsaka stora skador. Bade känslomässigt, mentalt eller rent av professionellt. Uöver att personen kanske känner sig kränkt, kan det kosta arbete, relationer och fan vet allt. Personen ifraga riskerar även att bli trakasserad, förföljd eller far en hotbild mot sig. Risken är även oehört stort, eller t.om garanterat, att dessa media hamnar pa diverse porrsidor där det utnyttjas till fullo. Vilket kan generera ännu mer skador för offret. Och vi alla vet, att när nagot en gang hamnat pa internet, kommer det att för alltid stanna pa internet.

Ponera att nagon hittar en bild pa dig pa internet. Denna person generar sen en AI video med ditt ansikte i en barnporrfilm och sprider den pa internet. Skulle du vara ok med det? Det är ju AI genererat och inte sant, och det är bara för att nagon ska kunna visualiera en fantasi. Utöver att denna film sprids pa internet, sa hamnar kanske ditt namn tillsammans med adress, telefonnummer namn och information pa partner och famillj pa nagon skev hemsida där folk registrerar sexförbrytare och pedofiler.