Antropomorfizuojantis dirbtinis intelektas: Jau išryškėjo siaubingos pasekmės, kai žmogų painiojame su žmogumi

Skubėdami suprasti dirbtinį intelektą ir susieti su juo, patekome į viliojančius spąstus: šioms tvirtoms, bet iš esmės nežmogiškoms sistemoms priskirdami žmogiškąsias savybes. Šis dirbtinio intelekto antropomorfizavimas nėra tik nekenksminga žmogaus prigimties keistenybė – tai tampa vis pavojingesne tendencija, kuri gali kritiškai aptemdyti mūsų sprendimą. Verslo lyderiai lygina dirbtinio intelekto mokymąsi su žmogaus švietimu, kad pateisintų mokymo praktiką įstatymų leidėjams, kurie kuria politiką, pagrįstą klaidingomis žmogaus ir AI analogijomis. Ši tendencija humanizuoti AI gali netinkamai formuoti esminius sprendimus įvairiose pramonės šakose ir reguliavimo sistemose.

Dirbtinio intelekto stebėjimas per žmogaus objektyvą versle paskatino įmones pervertinti AI galimybes arba nepakankamai įvertinti žmogaus priežiūros poreikį, o tai kartais turėjo brangių pasekmių. Itin didelis statymas yra autorių teisių įstatyme, kur antropomorfinis mąstymas lėmė problemiškus žmogaus mokymosi ir dirbtinio intelekto mokymo palyginimus.

Kalbos spąstai

Klausykite, kaip kalbame apie AI: sakome, kad jis „mokosi“, „galvoja“, „supranta“ ir netgi „kuria“. Šie žmogiškieji terminai atrodo natūralūs, tačiau jie yra klaidinantys. Kai sakome, kad dirbtinio intelekto modelis „mokosi“, jis neįgyja supratimo kaip mokinys. Vietoj to, ji atlieka sudėtingas statistines analizes, susijusias su didžiuliu duomenų kiekiu, koreguodamas svorius ir parametrus savo neuroniniuose tinkluose, remdamasis matematiniais principais. Nėra supratimo, eurekos akimirkos, kūrybiškumo kibirkšties ar tikro supratimo – tik vis sudėtingesnis modelių derinimas.

Šis kalbinis gudrumas yra daugiau nei tik semantinis. Kaip pažymėta dokumente, „Generative AI’s Illusory Case for Fair Use“: „Antropomorfinės kalbos naudojimas AI modelių kūrimui ir veikimui aprašyti yra iškraipomas, nes leidžia manyti, kad apmokytas modelis veikia nepriklausomai nuo darbų, kuriais remiantis, turinio. tai išmoko“. Ši painiava turi realių pasekmių, daugiausia tada, kai ji daro įtaką teisiniams ir politiniams sprendimams.

Kognityvinis atjungimas

Ko gero, pavojingiausias antropomorfizuojantis AI aspektas yra tai, kaip jis užmaskuoja esminius žmogaus ir mašinos intelekto skirtumus. Nors kai kurios dirbtinio intelekto sistemos puikiai atlieka konkrečius samprotavimo ir analitinių užduočių tipus, šiandieniniame AI diskurse dominuojantys didelių kalbų modeliai (LLM), į kuriuos čia daugiausia dėmesio skiriame, veikia pasitelkdami sudėtingą modelių atpažinimą.

Šios sistemos apdoroja didelius duomenų kiekius, identifikuodamos ir mokydamos statistinius ryšius tarp žodžių, frazių, vaizdų ir kitų įvesties duomenų, kad nuspėtų, kas turėtų vykti toliau. Kai sakome, kad jie „mokosi“, aprašome matematinio optimizavimo procesą, kuris padeda jiems daryti vis tikslesnes prognozes remiantis treniruočių duomenimis.

Apsvarstykite šį ryškų Berglundo ir jo kolegų tyrimų pavyzdį: modelis, parengtas naudojant medžiagas, kuriose teigiama, kad „A yra lygus B“, dažnai negali daryti išvados, kad „B yra lygus A“, kaip tai darytų žmogus. Jei dirbtinis intelektas sužinos, kad Valentina Tereškova buvo pirmoji moteris kosmose, jis gali teisingai atsakyti: „Kas buvo Valentina Tereškova? bet kovoja su „Kas buvo pirmoji moteris kosmose? Šis apribojimas atskleidžia esminį skirtumą tarp modelio atpažinimo ir tikrojo samprotavimo – tarp galimų žodžių sekos numatymo ir jų reikšmės supratimo.

Autorių teisių galvosūkis

Šis antropomorfinis šališkumas turi ypač nerimą keliančių pasekmių vykstančiose diskusijose apie AI ir autorių teises. „Microsoft“ generalinis direktorius Satya Nadella neseniai palygino dirbtinio intelekto mokymą su žmogaus mokymusi, teigdamas, kad dirbtinis intelektas turėtų sugebėti daryti tą patį, jei žmonės gali mokytis iš knygų be autorių teisių poveikio. Šis palyginimas puikiai iliustruoja antropomorfinio mąstymo pavojų diskusijose apie etišką ir atsakingą AI.

Kai kurie teigia, kad šią analogiją reikia peržiūrėti norint suprasti žmogaus mokymąsi ir dirbtinio intelekto mokymą. Kai žmonės skaito knygas, mes nedarome jų kopijų – suprantame ir įsisaviname sąvokas. Kita vertus, dirbtinio intelekto sistemos turi daryti faktines kūrinių kopijas – dažnai gautas be leidimo ar mokėjimo – užkoduoti jas savo architektūroje ir palaikyti šias užkoduotas versijas, kad jos veiktų. Darbai neišnyksta po „mokymosi“, kaip dažnai tvirtina AI įmonės; jie lieka įterpti į sistemos neuroninius tinklus.

Verslo akloji zona

Antropomorfizuojantis dirbtinis intelektas sukuria pavojingas akląsias dėmes priimant verslo sprendimus, o ne tik paprastas veiklos neefektyvumas. Kai vadovai ir sprendimus priimantys asmenys mano, kad dirbtinis intelektas yra „kūrybingas“ arba „protingas“ žmogiškuoju požiūriu, tai gali sukelti rizikingų prielaidų ir galimų teisinių įsipareigojimų pakopą.

AI galimybių pervertinimas

Viena iš svarbiausių sričių, kur antropomorfizmas kelia pavojų, yra turinio kūrimas ir autorių teisių laikymasis. Kai įmonės mano, kad dirbtinis intelektas gali „mokytis“ kaip žmonės, jos gali klaidingai manyti, kad dirbtinio intelekto sukurtas turinys automatiškai nesusijęs su autorių teisėmis. Šis nesusipratimas gali paskatinti įmones:

• Įdiekite dirbtinio intelekto sistemas, kurios netyčia atkuria autorių teisių saugomą medžiagą, todėl verslui gali būti pateikti ieškiniai dėl pažeidimo
• Nepavyksta įdiegti tinkamo turinio filtravimo ir priežiūros mechanizmų
• Neteisingai manykite, kad dirbtinis intelektas gali patikimai atskirti viešąją medžiagą nuo autorių teisių saugomos medžiagos
• Nepakankamai įvertinkite žmogaus peržiūros poreikį turinio kūrimo procesuose

Tarpvalstybinio atitikties akloji zona

Antropomorfinis dirbtinio intelekto šališkumas kelia pavojų, kai atsižvelgiame į tarpvalstybinį atitikimą. Kaip paaiškino Danielis Gervaisas, Haralambosas Marmanis, Noamas Shemtovas ir Catherine Zaller Rowland knygoje „Svarbiausia esmė: autorių teisės, dirbtinio intelekto mokymai ir LLM“, autorių teisių įstatymas veikia pagal griežtus teritorinius principus, o kiekviena jurisdikcija laikosi savo taisyklių dėl to, kas. pažeidimas ir kokios išimtys taikomos.

Šis teritorinis autorių teisių įstatymo pobūdis sukuria sudėtingą galimos atsakomybės tinklą. Įmonės gali klaidingai manyti, kad jų dirbtinio intelekto sistemos gali laisvai „mokytis“ iš autorių teisių saugomos medžiagos visose jurisdikcijose, nesuvokdamos, kad vienoje šalyje legali mokymo veikla gali būti pažeista kitoje. ES pripažino šią riziką savo AI įstatyme, visų pirma 106 konstatuojamojoje dalyje, pagal kurią reikalaujama, kad bet koks ES siūlomas bendrosios paskirties AI modelis atitiktų ES autorių teisių įstatymą dėl mokymo duomenų, neatsižvelgiant į tai, kur tas mokymas buvo atliktas.

Tai svarbu, nes antropomorfizuojant dirbtinio intelekto galimybes įmonės gali neįvertinti arba neteisingai suprasti savo teisinius įsipareigojimus tarpvalstybiniu mastu. Patogi AI „mokymosi“ fantastika, kaip ir žmonės, užgožia realybę, kad dirbtinio intelekto mokymas apima sudėtingas kopijavimo ir saugojimo operacijas, dėl kurių kitose jurisdikcijose atsiranda skirtingų teisinių įsipareigojimų. Šis esminis tikrojo AI veikimo nesusipratimas kartu su teritoriniu autorių teisių įstatymo pobūdžiu kelia didelę riziką visame pasaulyje veikiančioms įmonėms.

Žmogaus kaina

Viena iš labiausiai susirūpinimą keliančių išlaidų yra emocinė antropomorfizuojančio AI žala. Pastebime vis daugiau atvejų, kai žmonės emocingai prisiriša prie AI pokalbių robotų ir laiko juos draugais ar patikėtiniais. Tai gali būti ypač pavojinga pažeidžiamiems asmenims, kurie gali dalytis asmenine informacija arba pasikliauti AI dėl emocinės paramos, kurios ji negali suteikti. AI atsakymai, nors ir atrodo empatiški, yra sudėtingi modelių deriniai, pagrįsti treniruočių duomenimis – nėra tikro supratimo ar emocinio ryšio.

Šis emocinis pažeidžiamumas taip pat gali pasireikšti profesinėje aplinkoje. Dirbtinio intelekto įrankiams vis labiau integruojantis į kasdienį darbą, darbuotojai gali sukurti netinkamą pasitikėjimo šiomis sistemomis lygį ir traktuoti juos kaip tikrais kolegas, o ne įrankius. Jie gali per laisvai dalytis konfidencialia darbo informacija arba dvejoti pranešti apie klaidas dėl netinkamo lojalumo jausmo. Nors šie scenarijai šiuo metu lieka atskirti, jie pabrėžia, kaip antropomorfizuojantis AI darbo vietoje gali aptemdyti sprendimus ir sukurti nesveiką priklausomybę nuo sistemų, kurios, nepaisant sudėtingų reakcijų, negali iš tikrųjų suprasti ar rūpintis.

Išsivaduoti iš antropomorfinių spąstų

Taigi, kaip judėti į priekį? Pirma, turime būti tikslesni savo kalba apie AI. Užuot sakę, kad dirbtinis intelektas „mokosi“ arba „supranta“, galime sakyti, kad jis „apdoroja duomenis“ arba „generuoja rezultatus pagal mokymo duomenų šablonus“. Tai ne tik pedantiška – tai padeda išsiaiškinti, ką šios sistemos veikia.

Antra, turime įvertinti AI sistemas pagal tai, kas jos yra, o ne pagal tai, kokias mes įsivaizduojame. Tai reiškia, kad reikia pripažinti ir įspūdingas jų galimybes, ir esminius apribojimus. AI gali apdoroti didelius duomenų kiekius ir nustatyti modelius, kurių žmonės gali praleisti, tačiau jis negali suprasti, samprotauti ar sukurti taip, kaip tai daro žmonės.

Galiausiai turime sukurti sistemas ir politiką, kurios būtų skirtos tikrosioms AI ypatybėms, o ne įsivaizduojamoms žmogaus savybėms. Tai ypač svarbu autorių teisių teisėje, kur antropomorfinis mąstymas gali lemti klaidingas analogijas ir netinkamas teisines išvadas.

Kelias į priekį

Dirbtinio intelekto sistemoms tobulėjant mėgdžioti žmogaus rezultatus, pagunda jas antropomorfizuoti stiprės. Šis antropomorfinis šališkumas turi įtakos viskam, nuo to, kaip vertiname AI galimybes, iki to, kaip vertiname jo riziką. Kaip matėme, tai apima reikšmingus praktinius iššūkius, susijusius su autorių teisių įstatymu ir verslo atitikimu. Priskirdami žmogaus mokymosi galimybes dirbtinio intelekto sistemoms, turime suprasti esminę jų prigimtį ir techninę tikrovę, kaip jos apdoroja ir saugo informaciją.

Suprasti dirbtinį intelektą tokį, koks jis iš tikrųjų yra – sudėtingas informacijos apdorojimo sistemas, o ne į žmones panašius besimokančiųjų – labai svarbu visais DI valdymo ir diegimo aspektais. Atsižvelgdami į antropomorfinį mąstymą, galime geriau spręsti AI sistemų iššūkius – nuo ​​etinių sumetimų ir saugos rizikos iki tarpvalstybinio autorių teisių laikymosi ir mokymo duomenų valdymo. Šis tikslesnis supratimas padės įmonėms priimti labiau pagrįstus sprendimus ir kartu paremti geresnį politikos kūrimą ir viešąjį diskursą apie AI.

Kuo greičiau suvoksime tikrąją AI prigimtį, tuo geriau būsime pasiruošę susidoroti su jo giliomis visuomeninėmis pasekmėmis ir praktiniais iššūkiais mūsų pasaulio ekonomikoje.

Roanie Levy yra CCC licencijavimo ir teisės patarėja.