Norite protingesnių įžvalgų savo gautuosiuose? Prisiregistruokite prie mūsų savaitinių informacinių biuletenių, kad gautumėte tik tai, kas svarbu įmonei AI, duomenims ir saugumo lyderiams. Prenumeruokite dabar
PG yra didžiausias kognityvinis iškrovimas žmonijos istorijoje. Kartą perleidome atmintį į rašymą, aritmetiką į skaičiuotuvus ir naršymą į GPS. Dabar mes pradedame iškrauti sprendimus, sintezę ir netgi prasmę formuojant sistemoms, kurios kalba mūsų kalbą, mokosi mūsų įpročių ir pritaiko mūsų tiesas.
PG sistemos vis labiau įgudo atpažinti mūsų nuostatas, šališkumą, net mūsų peckadilus. Kaip ir dėmesingi tarnai vienu atveju, ar subtilūs manipuliatoriai kitame, jie pritaiko savo atsakymus, kad patiktų, įtikintų, padėtų ar tiesiog atkreiptų mūsų dėmesį.
Nors tiesioginis poveikis gali atrodyti gerybinis, šiame tyliame ir nematomame derinime yra gilus poslinkis: kiekvieno iš mūsų gaunamų realybės versija vis labiau vienareikšmiškai pritaikyta. Per šį procesą laikui bėgant kiekvienas asmuo tampa vis labiau savo sala. Šis skirtumas gali kelti grėsmę pačios visuomenės darnai ir stabilumui, panaikindamas mūsų sugebėjimą susitarti dėl pagrindinių faktų ar naršyti bendrais iššūkiais.
PG personalizavimas ne tik tarnauja mūsų poreikiams; Tai pradeda juos pertvarkyti. Šio pertvarkymo rezultatas yra savotiškas episteminis dreifas. Kiekvienas asmuo pradeda judėti, coliais coliais, atokiau nuo bendro bendrų žinių, dalijimosi istorijų ir dalijimosi faktų pagrindu ir toliau į savo realybę.
AI poveikio serija grįžta į San Franciską – rugpjūčio 5 d
Kitas AI etapas yra čia – ar esate pasiruošęs? Prisijunkite prie „Block“, „GSK“ ir „SAP“ lyderių, jei norite išskirtinai pažvelgti į tai, kaip autonominiai agentai pertvarko įmonių darbo eigas-nuo sprendimų realiojo laiko priėmimo iki automatizavimo iki galo.
Užtikrinkite savo vietą dabar – erdvė yra ribota: https://bit.ly/3guuplf
Tai nėra tik skirtingų naujienų kanalų klausimas. Tai lėtas moralinės, politinės ir tarpasmeninės tikrovės skirtumas. Tokiu būdu galime liudyti, kad nepalanki kolektyvinis supratimas. Tai yra nenumatyta pasekmė, tačiau giliai reikšminga būtent todėl, kad ji yra nenumatyta. Tačiau šis suskaidymas, nors ir pagreitėjęs AI, prasidėjo dar ilgai, kol algoritmai formavo mūsų tiekimą.
Nepageidaujamas
Šis nepalankumas prasidėjo ne nuo AI. Kaip atsispindėjo Davidas Brooksas Atlanto vandenynasRemiantis filosofo Alasdairo MacIntyre’o darbu, mūsų visuomenė šimtmečius pasitraukė nuo bendrų moralinių ir episteminių sistemų. Nuo nušvitimo mes pamažu pakeitėme paveldėtus vaidmenis, komunalinius pasakojimus ir bendrą etines tradicijas su individualia autonomija ir asmenine pirmenybe.
Tai, kas prasidėjo kaip išsivadavimas iš nustatytų įsitikinimų sistemų, laikui bėgant išnaikino pačias struktūras, kurios kadaise mus pririšo prie bendro tikslo ir asmeninės prasmės. AI nesukūrė šio suskaidymo. Bet tai suteikia jai naują formą ir greitį, pritaikant ne tik tai, ką matome, bet ir tai, kaip mes interpretuojame ir tikime.
Tai nepanaši į Biblijos Babelio istoriją. Vieninga žmonija kadaise pasidalino viena kalba, tik tam, kad būtų suskaidyta, supainiota ir išsibarsčiusi veiksmu, kuris abipusį supratimą padarė visus, bet neįmanomus. Šiandien mes nestatome bokšto, pagaminto iš akmens. Mes kuriame pačios kalbos bokštą. Dar kartą rizikuojame kritimu.
Žmogaus ir mašinos ryšys
Iš pradžių suasmeninimas buvo būdas pagerinti „lipnumą“, nes vartotojai ilgiau įsitraukė, dažniau grįžta ir giliau sąveikaudami su svetaine ar paslauga. Rekomendaciniai varikliai, pritaikyti skelbimai ir kuruojami kanalai buvo sukurti tam, kad mūsų dėmesys būtų nukreiptas tik šiek tiek ilgiau, galbūt norėdami pramogauti, bet dažnai perkelti mus įsigyti produkto. Tačiau laikui bėgant tikslas išsiplėtė. Suasmeninimas nebėra tik tai, kas mus palaiko. Tai yra tai, ką ji žino apie kiekvieną iš mūsų, dinamišką mūsų pageidavimų, įsitikinimų ir elgesio grafiką, kuris tampa tobulesnis su kiekviena sąveika.
Šiandienos AI sistemos ne tik prognozuoja mūsų nuostatas. Jie siekia sukurti ryšį per labai individualizuotą sąveiką ir atsakymus, sukurdami jausmą, kad AI sistema supranta ir rūpinasi vartotoju bei palaiko jų unikalumą. Pokalbių paleidimo tonas, atsakymo tempas ir emocinis pasiūlymo valentingumas yra kalibruojamas ne tik dėl efektyvumo, bet ir dėl rezonanso, nurodant naudingesnę technologijos erą. Neturėtų stebinti, kad kai kurie žmonės net įsimylėjo ir vedė savo robotus.
Mašina prisitaiko ne tik prie to, ką paspaudžiame, bet ir į tai, kas, mūsų manymu, yra. Tai atspindi mus atgal į save tokiais būdais, kurie jaučiasi intymiai, net empatiški. Naujausiame tyrimo dokumente, cituojamame Prigimtis Tai vadina „socialiniu affektyviu suderinimu“, kuriuo AI sistema dalyvauja bendroje socialinėje ir psichologinėje ekosistemoje, kur nuostatos ir suvokimas vystosi per abipusę įtaką.
Tai nėra neutralus vystymasis. Kai kiekviena sąveika yra suderinta su glostymu ar patvirtinančiu, kai sistemos per daug atspindi mus, jos sulieja liniją tarp to, kas rezonuoja ir kas yra tikra. Mes ne tik ilgiau apsistojame platformoje; Mes formuojame santykius. Mes pamažu ir galbūt neišvengiamai susiliejame su AI tarpininkaujama realybės versija, kurią vis labiau formuoja nematomi sprendimai apie tai, kuo turime tikėti, norėti ar pasitikėti.
Šis procesas nėra mokslinė fantastika; Jos architektūra yra pagrįsta dėmesiu, sustiprinimo mokymuisi su žmonių atsiliepimais (RLHF) ir personalizavimo varikliais. Tai taip pat vyksta be daugelio iš mūsų – greičiausiai dauguma iš mūsų – net žinodami. Proceso metu mes įgyjame AI „draugų“, bet kokia kaina? Ką mes prarandame, ypač kalbant apie laisvą valią ir agentūrą?
Autorius ir finansų komentatorė Kyla Scanlon kalbėjo „Ezra Klein“ podcast’e apie tai, kaip skaitmeninio pasaulio be trinties lengvumas gali būti prasmės kaina. Kaip ji pasakė: „Kai viskas yra šiek tiek per lengva, sunku jame rasti prasmę … jei galėsite atsigulti, žiūrėkite ekraną savo mažoje kėdėje ir turite jums pristatytų kokteilių – sunku rasti prasmę tokioje rūšyje Wall-e Gyvenimo būdas, nes viskas yra tik šiek tiek per paprasta. “
Tiesos suasmeninimas
Kai AI sistemos reaguoja į mus vis didesniu sklandumu, jos taip pat pereina prie didėjančio selektyvumo. Du vartotojai, užduodantys tą patį klausimą šiandien, gali gauti panašius atsakymus, kuriuos dažniausiai diferencijuoja generatyvinės AI tikimybinis pobūdis. Vis dėlto tai tik pradžia. Atsirandančios AI sistemos yra aiškiai sukurtos taip, kad pritaikytų savo atsakymus į atskirus modelius, palaipsniui pritaikant atsakymus, toną ir netgi išvadas, kad jie labiausiai atsilieptų su kiekvienu vartotoju.
Suasmeninimas iš prigimties nėra manipuliuojantis. Tačiau tai tampa rizikinga, kai ji yra nematoma, neatskaityta ar sukurta labiau įtikinti, nei informuoti. Tokiais atvejais tai ne tik atspindi tai, kas mes esame; Tai nukreipia, kaip mes interpretuojame mus supantį pasaulį.
Kaip 2024 m. Skaidrumo indeksas Stanfordo tyrimų centras, susijęs su fondų modelių pastabomis, nedaugelis pirmaujančių modelių atskleidė, ar jų rezultatai skiriasi priklausomai nuo vartotojo tapatumo, istorijos ar demografijos, nors tokio personalizavimo techniniai pastoliai vis dažniau yra ir tik pradedami nagrinėti. Nors šis potencialas dar nėra visiškai realizuotas viešosiose platformose, šis potencialas formuoti atsakymus pagal numanomus vartotojų profilius, todėl vis labiau pritaikytos informaciniai pasauliai yra gilus poslinkis, kuris jau yra prototipų ir aktyviai vykdomas pagrindinių įmonių.
Šis suasmeninimas gali būti naudingas, ir, be abejo, tai yra tų, kurie kuria šias sistemas, viltis. Suasmenintas mokymas rodo pažadą padėti besimokantiesiems progresuoti savo tempu. Psichikos sveikatos programos vis labiau pritaiko atsakymus į individualius poreikius, o prieinamumo įrankiai sureguliuoja turinį, kad atitiktų daugybę pažintinių ir jutiminių skirtumų. Tai yra tikras laimėjimas.
Bet jei panašūs adaptaciniai metodai tampa plačiai paplitę tarp informacijos, pramogų ir komunikacijos platformų, gilesnis, labiau nerimą keliantis poslinkis: pertvarkymas iš bendro supratimo link pritaikytos, individualios realybės. Kai pati tiesa pradeda prisitaikyti prie stebėtojo, ji tampa trapi ir vis labiau keičiama. Užuot nesutarimai, pagrįsti pirmiausia skirtingomis vertybėmis ar interpretacijomis, netrukus galėtume susidurti su tuo, kad gyventume tuo pačiu faktiniu pasauliu.
Žinoma, tiesa visada buvo tarpininkaujama. Ankstesniuose laikais jis praėjo pro dvasininkų, akademikų, leidėjų ir vakarinių naujienų inkarus, kurie tarnavo kaip vartininkai, formuodami visuomenės supratimą per institucinius lęšius. Šie skaičiai tikrai nebuvo laisvi nuo šališkumo ar darbotvarkės, tačiau jie veikė plačiai bendrose sistemose.
Šiandien kylanti paradigma žada ką nors kokybiškai skirtingo: AI tarpininkaujama tiesa per individualizuotą išvadą, kad rėmeliai, filtrai ir pateikia informaciją, formuodami tai, kuo vartotojai tiki. Tačiau skirtingai nuo buvusių tarpininkų, kurie, nepaisant trūkumų, veikė viešai matomose institucijose, šie nauji arbitrai yra komerciškai nepermatomi, neišrinkti ir nuolat prisitaikantys, dažnai neatskleidžiant. Jų šališkumas nėra doktrina, tačiau užkoduojami per mokymo duomenis, architektūrą ir neištyrinėtas kūrėjų paskatas.
Poslinkis yra gilus, pradedant nuo bendro pasakojimo, filtruojamo per autoritetines institucijas, iki potencialiai suskaidytų pasakojimų, atspindinčių naują supratimo infrastruktūrą, pritaikytą algoritmams prie kiekvieno vartotojo nuostatų, įpročių ir numanomų įsitikinimų. Jei Babelis atspindėjo bendros kalbos žlugimą, dabar galime stovėti prie bendro tarpininkavimo žlugimo slenksčio.
Jei personalizavimas yra naujas episteminis substratas, kaip tiesos infrastruktūra gali atrodyti pasaulyje be fiksuotų tarpininkų? Viena iš galimybių yra AI viešųjų patikos fondų sukūrimas, įkvėptas teisinio mokslininko Jacko Balkino pasiūlymo, kuris teigė, kad subjektai, tvarkantys vartotojų duomenis ir formuojantys suvokimą, turėtų būti laikomi fiduciariniais lojalumo, priežiūros ir skaidrumo standartais.
PG modelius gali reglamentuoti skaidrumo lentos, mokomos valstybės finansuojami duomenų rinkiniai ir reikalaujama parodyti samprotavimo veiksmus, pakaitines perspektyvas ar pasitikėjimo lygį. Šie „informacijos patikėtiniai“ nepašalintų šališkumo, tačiau jie galėtų įtvirtinti pasitikėjimą procesu, o ne tik personalizavimu. Statytojai gali pradėti nuo skaidrių „konstitucijų“, kurios aiškiai apibrėžia modelio elgesį, ir siūlydami paaiškinimus, kurie vartotojams leido vartotojams pamatyti, kaip formuojamos išvados. Tai nėra sidabrinės kulkos, tačiau jos yra įrankiai, padedantys išlaikyti episteminę valdžią atskaitingą ir atsekamą.
PG statytojai susiduria su strateginiu ir pilietiniu posūkio tašku. Jie ne tik optimizuoja našumą; Jie taip pat susiduria su rizika, kad individualizuotas optimizavimas gali suskaidyti bendrą tikrovę. Tai reikalauja naujo tipo atsakomybės vartotojams: sistemų, kurios gerbia ne tik jų nuostatas, bet ir besimokančiųjų bei tikinčiųjų vaidmenį.
Išardymas ir peržiūra
Tai, ką galime prarasti, yra ne tik tiesos samprata, bet ir kelias, per kurį mes jį kartą atpažinome. Anksčiau tarpininkaujama tiesa, nors ir netobula ir šališka, vis dar buvo įtvirtinta žmogaus sprendime ir dažnai tik sluoksnis ar du pašalinami iš kitų žmonių, su kuriais jūs pažinojote ar jau galėjote susieti, patirtį.
Šiandien tas tarpininkavimas yra nepermatomas ir lemia algoritminė logika. Ir nors žmonių agentūra jau seniai slenka, mes dabar rizikuojame kažkuo giliau, prarasti kompasą, kuris kadaise mums pasakė, kai mes buvome išvykę. Pavojus yra ne tik tai, kad mes tikėsime tuo, ką mums sako mašina. Tai yra, kad pamiršime, kaip kadaise atradome tiesą sau. Mes rizikuojame prarasti ne tik darną, bet ir valią to ieškoti. Ir tuo metu gilesnis praradimas: supratimo, nesutarimų ir svarstymų įpročiai, kurie kadaise kartu laikė pliuralistines visuomenes.
Jei Babelis pažymėjo bendros liežuvio sukramtymą, mūsų akimirka rizikuoja ramiam bendro tikrovės išblukimui. Tačiau yra būdų sulėtinti ar net kovoti su dreifu. Modelis, paaiškinantis jo samprotavimus arba atskleidžiantis jo dizaino ribas, gali padaryti daugiau, nei paaiškinti išvestį. Tai gali padėti atkurti bendro tyrimo sąlygas. Tai nėra techninė pataisa; Tai yra kultūrinė pozicija. Tiesa, galų gale, visada priklausė ne tik nuo atsakymų, bet ir nuo to, kaip mes kartu su jais susiduriame.
