Nedomāju, ka kāds: Kas apdraud neironu tīklu, padarot porno
Dmitrijs Kurkins
Viltus porno videokurā filmas „Wonder Woman” Gal Gadot zvaigzne, kas, iespējams, nodarbojas ar viņas brāleri, kas šonedēļ parādījās tīmeklī, izrādījās ne tikai viltota, bet arī mākslīgā intelekta radīta viltota.
Video autors, anonīms reddita lietotājs ar iesauku deepfakes, intervijā ar viceprezidentu apstiprināja, ka viņš izmantoja neironu tīklu, lai “fotografētu” no Gadota sejas uz pornogrāfu. Viltus, kopumā, ir pamanāmas, un dziļi griesti neplānoja par to naudu - viņš teica, viņš tikai gribēja pārbaudīt, cik viegli būtu to izmantot, izmantojot AI. Un mums mums ir sliktas ziņas: viltus pornogrāfija mājās bija ļoti vienkārša.
Problēmas vispār nav pašas pornofeaks: pieprasījums pēc attēliem un video, kur slavenības, piemēram, aktieri un aktrises, ir ar seksu, bija un būs ar fetišistiem un sensacionālajiem mīļotājiem. Par ārējo līdzību ar zvaigznēm pornozonā, tiek veidotas veselas karjeras - šī parādība pat izraisīja izcilu dzeltenās preses virsrakstu: "Gordon Ramsay punduris-porn punduris atklāja nāvei".
Bet, ja pirms ražošanas ir vajadzīgs laiks, resursi un kāda veida prasme, tad neironu tīkls, kas apmācīts, lai metinātu virsmas attēlu, ievērojami atvieglo uzdevumu. Roboti nēsā, nevis cilvēks, un roboti laiku pa laikam kļūst gudrāki, kas nozīmē, ka viltojumi izskatīsies arvien uzticamāki. The deepfakes lietotājs paskaidroja, ka viņš savāca AI programmatūru no atklātās pirmkoda bibliotēkās atrastajiem lūžņu elementiem, kā arī veica fotoattēlus un videoklipus publiskajās kanalizācijas sistēmās un, piemēram, YouTube. Vienkārši runājot, visi instrumenti pornofeikova radīšanai atradās zem viņa deguna, ne tikai ar viņu, bet starp miljoniem cilvēku visā pasaulē.
Un tas, stingri runājot, nav pat ziņas. 2003. gadā Oregonas Universitātes Veselības un zinātnes eksperti brīdināja, ka audio krāpšana ir „viegli izdarāma un grūti noteikt”. Līdz 2017. gadam prognoze piepildījās, un neironu tīkli radīja viltus balss ierakstus, kurus ir ļoti grūti atšķirt no reāliem. Pēc audio atskaņošanas video tika izvilkts. Vašingtonas Universitātes personāla attīstība sinhronizē cilvēka sejas izteiksmes ar viņa runu: piemēram, video klipus ar Barack Obama ir klāt tikai audio, attēlu ģenerē programma. Pievienojieties vienam ar otru - un tagad ir gatavs viltus video, kurā, teiksim, labi pazīstamais liberālais politiķis "atzīst" par savu līdzjūtību pret Hitleru.
Tas aizņem diezgan daudz iztēles, lai iedomāties, kā ļaunprātīgi šādi mākslīgais intelekts var novest pie - Microsoft čats, ko čivinātās trolles ir kļuvušas rasistiskas mazāk nekā dienas laikā, šķiet diezgan pretīgs pret viņiem. Un, protams, Porno tehnoloģiju galvenokārt neapdraud Gal Gadot, Taylor Swift vai Jennifer Lawrence. Viņi ir pietiekami nodrošināti, lai nolīgtu IT speciālistu armiju, kas atzīst viltus, un juristu floti, kas iesūdzēs ikvienu, kurš mēģina izmantot šos viltojumus personīgam labumam.
Nē, vienkāršie mirstīgie kļūs par jaunu nekaitīgu algoritmu upuriem. Digitālos viltojumus var izmantot pornogrāfijai, kibernoziegumiem, tīkla uzmākšanai, šantažēšanai un manipulācijām ar cilvēkiem, kas ir viegli pamanāmi un kas nav īpaši sekojuši jaunumiem no progresīvo tehnoloģiju jomas ("Tava meita tika filmēta, nekavējoties nogādājiet naudu, pretējā gadījumā visu redzēs"). Un mēs ne vienmēr runājam par pornogrāfiju: viltus var arī uzsākt tīklā politiskās propagandas un naida kurināšanas nolūkā.
"Bet tas ir briesmīgs!" Jā, nežēlīgi, un tas nav vainīgs dziļi vēzis. Tā kā hakeri dažreiz iekļūst banku sistēmās, nevis lai nozagtu naudu, bet, lai norādītu kiberaizsardzības departamentu drošības caurumos, tā izgudroja anonīms AI programmētājs, kas mūs noved pie fakta: digitālo viltojumu laikmets nav antiopēdisks šausmu stāsts "Melnais spogulis" un nākamā realitāte. Viņu vēl nesaprot mūsdienu ētika (vai pornofilus var uzskatīt par citu cilvēku privātuma iebrukumu?), Vai ar spēkā esošo likumu. Bet tieši viņai ir jādzīvo tuvākajos gados. Tātad, ir nepieciešams izstrādāt pretlīdzekli pret šādu pildījumu.
Collins vārdnīcas kuratori sauca terminu "viltus jaunumi" 2017. gada izteiksmē, tādējādi uzsverot, ka vidusmēra lietotājs ir atkarīgs no noklikšķināšanas un repost sensacionālu virsrakstu, neizmantojot laiku, pārbaudot informācijas autentiskumu. Tikmēr viltotas ziņas var ietekmēt vēlēšanu un referendumu rezultātus. Un tas ir arī daļa no jaunās realitātes, kurā mēs jau esam un kurā mums būs jāiemācās būt mazāk vieglprātīgiem.
Sociālie tīkli jau ir padarījuši internetu par stikla sienām, kur miljoniem cilvēku katru dienu var skatīties jūsu dzīvi, pat ja to nevēlaties. Tagad ir skaidrs, ka šajā mājā nav durvju: ikviens var mēģināt iebrukt jūsu personiskajā telpā, izmantojot AI, lai skrūvētu seju uz pornorolu vai filmu “Gredzenu Kungs”. Konfidencialitāte ir mirusi, bet ne tikai Lielais brālis ir vainīgs šajā īpašo dienestu un globālo korporāciju, bet arī paši.
Tuvojas digitālo viltojumu pasaule, bet tas nav iemesls panikai, paranoijai, atteikumam izmantot internetu vai prasībām aizliegt neironu tīklus. Tas ir iemesls domāt par tīkla higiēnu un jaunām ētikām, kas vienreiz un visiem laikiem noteiks, ka kāda cita attēla izmantošana, lai radītu digitālo viltus, ir vāja un nelikumīga. Laiki, kad cilvēki bez nosacījumiem ticēja visam, ko viņi saka televīzijā (pat ja viņi saka, ka "Ļeņins bija sēne"), izbalē. Tādā pašā veidā mēs pakāpeniski pieradīsimies neticēt viss, kas rakstīts internetā.
Vāks:Warp ieraksti