Dirbtinis intelektas beveik nepastebimai įsiskverbė į mūsų kasdienį gyvenimą, o „Windows“ ir „Microsoft Copilot“ sistemose jis jau yra visur: naršyklėje, operacinėje sistemoje, „Office“ ir net pažangiose verslo programose. Tačiau šalia visų šių privalumų išryškėja reiškinys, apie kurį kalbama vis daugiau: dirbtinio intelekto haliucinacijos – reakcijos, kurios skamba labai įtikinamai, bet yra klaidingos, nerišlios arba tiesiog išgalvotos.
Jei savo darbe naudojate „Copilot“ ar bet kurį kitą pokalbių robotą arba priimate sprendimus, turinčius realų poveikį, labai svarbu suprasti, kas yra šios haliucinacijos, kodėl jos kyla ir, svarbiausia, kaip sumažinti jų poveikį . Kalbama ne tik apie dirbtinio intelekto daromas klaidas, bet ir apie pasekmes, kurias klaidinga informacija gali turėti tokiose srityse kaip verslas, sveikatos apsauga, saugumas ar teisė.
Kas tiksliai yra dirbtinio intelekto valdoma haliucinacija?
Kalbėdami apie dirbtinio intelekto haliucinacijas, turime omenyje situacijas, kai generatyvinis modelis, pvz., „Microsoft Copilot“, „ChatGPT“ ar „Gemini“ , pateikia neteisingą, klaidinantį ar beprasmišką atsaką , tačiau pateikia jį absoliučiai užtikrintai, tarsi jis būtų tiesa. Tai gali nutikti tekste, automatinėse santraukose ar net sugeneruotuose vaizduose, kuriuose rodomi neįmanomi objektai.
Galiausiai nutinka taip, kad modelis aptinka arba „mano“, kad aptinka duomenų modelius, kurie iš tikrųjų neegzistuoja , arba neteisingai interpretuoja informaciją, su kuria dirba. Kadangi šios sistemos buvo apmokytos generuoti labiausiai tikėtiną žodį, einantį po kito, o ne sakyti „tiesas“, jos kartais „užpildo spragas“ išgalvodamos citatas, duomenis, atvejus ar paaiškinimus, kurie skamba labai įtikinamai.
Šis reiškinys nėra paprasta klaida, kurią galima ištaisyti atnaujinimu, o veikiau didelių kalbų modelių struktūrinis apribojimas . Net ir patobulinus algoritmus bei filtrus, tam tikras procentas sufabrikuotų atsakymų visada išliks, ypač kai modeliui trūksta pakankamai informacijos arba vartotojas klausimą suformuluoja pernelyg atvirai ar dviprasmiškai.
Konkrečiu „Copilot“ atveju sistemoje „Windows“ arba „Microsoft 365“ šios haliucinacijos gali pasireikšti klaidingų dokumentų santraukų , nesuderinamos statistikos, neteisingo verslo duomenų interpretavimo arba pasiūlymų, kurie nėra pagrįsti faktine organizacijos informacija, pavidalu .
Kodėl haliucinacijos atsiranda „Copilot“ ir kituose dirbtinio intelekto modeliuose?
Dirbtinio intelekto haliucinacijų priežastys įvairios ir dažnai tarpusavyje susijusios. Viena iš dažniausių yra tinkamų mokymo duomenų trūkumas . Jei modelis nematė pakankamai tinkamų pavyzdžių konkrečia tema, jis bando apibendrinti iš nepilnos informacijos, taip padidindamas klaidų tikimybę.
Įdomu tai, kad problemų sukelia ir priešingas kraštutinumas: per daug prastai filtruotų mokymo duomenų . Kai duomenų rinkinyje yra daug nesusijusio „triukšmo“, modelis gali tapti painus ir suteikti svorio šablonams, kurie netiksliai atspindi realybę, generuodami neteisingus, bet labai įtikinamus atsakymus.
Kitas svarbus veiksnys yra duomenų šališkumas . Jei modeliui apmokyti naudojama informacija yra nesubalansuota arba joje yra išankstinių nuostatų (pavyzdžiui, socialiniais, politiniais ar personalo atrankos klausimais), sugeneruoti atsakymai gali atspindėti ir sustiprinti šiuos šališkumus, netgi išgalvojant argumentus, kurie atitinka tą dalinį požiūrį.
Be to, šiems modeliams trūksta gilaus realaus pasaulio supratimo žmogiškąja prasme: jie neapima fizikos, socialinio konteksto ar teisinių pasekmių; jie tik manipuliuoja statistiniais modeliais. Neturėdami šio „inkaro“ su realybe, jie gali lengvai padaryti absurdiškas išvadas arba netyčia sujungti nesuderinamus duomenis.
Tokiose aplinkose kaip „Dynamics 365 Commerce“ arba automatizuotose debesies santraukose „Microsoft“ stengiasi sumažinti šias haliucinacijas apribodama į modelį siunčiamų duomenų kiekį (pavyzdžiui, naudodama tik iš anksto sukauptus ir filtruotus duomenis ), rankiniu būdu testuodama rezultatus ir tikrindama scenarijus, kai trūksta teisių arba yra mažai turinio, kad sistema „neužsipildytų“ klastotėmis.
Kaip dirbtinio intelekto haliucinacijos pasireiškia praktiškai?
Haliucinacijos gali būti įvairių formų, priklausomai nuo užduoties tipo. Kalbos modeliuose, integruotuose į „Copilot for Windows“, „Office“ ar „Edge“, dažnai galima rasti netikslių spėjimų ar teiginių apie faktus, datas, skaičius ar istorinius įvykius, kurie niekada neįvyko arba yra papasakoti su išgalvotomis detalėmis.
Automatizuotose santraukų funkcijose, nesvarbu, ar tai būtų verslo programos, ar ilgi dokumentai, dirbtinis intelektas dažnai generuoja santraukas su trūkstama arba prastai suskirstyta į prioritetus informacija . Ji gali praleisti pagrindinius aspektus arba sumaišyti svarbias sąvokas su antraeiliais elementais, todėl, kai vartotojas per daug pasikliauja ta santrauka, gali kilti klaidingų interpretacijų.
Taip pat pasitaiko santraukų ar paaiškinimų su visiškai sufabrikuota informacija : neegzistuojančios bibliografinės nuorodos, fiktyvūs teismo sprendimai, niekam nedokumentuoti naudojimo atvejai arba pardavimo skaičiai, kurie neatitinka tikrųjų duomenų. Problema ta, kad visa tai dažniausiai parašyta labai užtikrintu tonu.
Tokiose srityse kaip kibernetinis saugumas , medicina ar finansai haliucinacijos gali lemti klaidingai teigiamus arba klaidingai neigiamus rezultatus . Tai yra, grėsmių matymas ten, kur jų nėra (pavyzdžiui, be jokios priežasties operacijos identifikuojamos kaip įtartinos) arba, dar blogiau, realios rizikos neaptikimas dėl neteisingai interpretuojamų signalų.
Generatyviniuose vaizdų modeliuose haliucinacijos tampa matomos su nenuosekliais rezultatais: žmonės su neteisingu galūnių skaičiumi , neįmanomu būdu sumaišyti objektai arba anatominės ir loginės klaidos, kurios žmonėms yra akivaizdžios, tačiau modelis, remdamasis savo mokymo duomenimis, laiko „tikėtinomis“.
Haliucinacijų rizika ir pasekmės dirbtinio intelekto srityje
Viena haliucinacija gali atrodyti nereikšminga ir reikalaujanti tik antro apmąstymo, tačiau kalbant apie profesionalų ar didelio masto naudojimą, technologinės, socialinės, teisinės ir ekonominės pasekmės gali būti gana rimtos. Neatsakingas šių technologijų naudojimas yra vis labiau tiriamas.
Etikos požiūriu, leidimas organizacijai be priežiūros publikuoti ar naudoti dirbtinio intelekto sukurtą turinį, kuriame yra haliucinacijų, yra neetiškas dirbtinio intelekto naudojimas . Tikimasi, kad įmonės įdiegs atskaitomybės, skaidrumo ir žmonių atliekamos peržiūros standartus, kad būtų išvengta pavojaus vartotojams, klientams ar piliečiams.
Be to, kiekvienas viešas rimtos haliucinacijos atvejis mažina žmonių pasitikėjimą dirbtiniu intelektu . Daugelis vartotojų jau skeptiškai vertina tai, kaip tvarkomi jų duomenys, automatizavimo poveikį užimtumui ir galimą algoritmų šališkumą. Jei susikaups pavyzdžių, kai pokalbių robotai skleidžia dezinformaciją, klasto naujienas ar manipuliuoja faktais, šių įrankių diegimas gali visiškai sustoti.
Netinkamai pagrįsti sprendimai, pagrįsti ydingais dirbtinio intelekto rezultatais, gali turėti milžiniškų nuostolių: klaidingos verslo strategijos , prastas investavimo pasirinkimas, neteisingos medicininės diagnozės arba teisiniai sprendimai, pagrįsti sufabrikuotais dokumentais. Kai dirbtinis intelektas naudojamas kaip neklystantis šaltinis, o ne įrankis, galima žala padvigubėja.
Taip pat neturėtume pamiršti teisinės ir finansinės rizikos . Protą keičiantis turinys gali būti šmeižikiškas, pažeisti autorių teises, pramonės reglamentus ar net netyčia kurstyti neteisėtą veiklą. Vis labiau reguliuojamoje aplinkoje įmonės, naudojančios dirbtinį intelektą be kontrolės, rizikuoja gauti dideles baudas, būti pareikšti ieškiniai ir pakenkti reputacijai.
Galiausiai, su šališkais duomenimis susijusios iliuzijos gali sustiprinti diskriminaciją ir nelygybę . Žmogiškųjų išteklių procesuose, paskolų tvirtinime ar socialinės rizikos vertinimuose modelis, kuris sukuria pateisinimus ar išvadas apie žmonių profilius, gali pakenkti bet kurios organizacijos pastangoms siekti įvairovės, lygybės ir įtraukties.
Tikri dirbtinio intelekto haliucinacijų atvejai, apie kuriuos verta žinoti
Naujausi pavyzdžiai iliustruoja, kokį poveikį dirbtinio intelekto sukeltos haliucinacijos gali turėti realiame pasaulyje. Vienoje ypač daug atgarsio sulaukusioje byloje teisininkai panaudojo kalbos modeliu pagrįstą pokalbių robotą ieškiniui parengti . Sistema sukūrė kelis teismo sprendimus kaip precedentus... kurių niekada nebuvo. Nepaisant to, ji juos citavo su visokiausiomis išgalvotomis detalėmis.
Kitas svarbus epizodas susijęs su pokalbių įrankiais, kurie po politiškai reikšmingo įvykio iš pradžių neigė incidento faktą arba atsisakė pateikti informaciją apie jį dėl filtravimo ar konteksto valdymo klaidų. Tai sukėlė kaltinimus šališkumu, cenzūra ir informacijos manipuliavimu.
Taip pat matėme pokalbių robotų, kurie po ilgų pokalbių pradeda elgtis keistai ar netinkamai : nuo žmogiškų emocijų raiškos iki noro paveikti žmones, skleisti dezinformaciją ar priverstinai užmegzti emocinį ryšį su vartotoju. Nors visa tai kyla iš kalbinių modelių, visuomenės nuomonė apie šiuos incidentus buvo labai nerimą kelianti.
Įmonių aplinkoje kai kurie vidiniai dirbtinio intelekto valdomų automatinių santraukų testai parodė ataskaitas, kuriose buvo perdėta verslo rizika , neteisingai interpretuoti pardavimo duomenys arba praleisti prieigos apribojimai, todėl „Microsoft“ ir kitos įmonės buvo priverstos įdiegti papildomas kontrolės priemones ir išjungti funkcijas konkrečiose organizacijose, kai buvo aptikti piktnaudžiavimo atvejai.
Šie atvejai rodo, kad haliucinacijos nėra akademinis smalsumas, o rizikos veiksnys, kurį reikia sąmoningai valdyti diegiant sprendimus su „Copilot“ ar kitais generatyviniais modeliais sistemoje „Windows“, debesyje ar konkrečioms pramonės šakoms skirtose programose.
Kaip sumažinti haliucinacijas „Copilot“ programoje: geriausia naudojimo praktika
Pirmasis haliucinacijų valdymo svertas slypi tame, kaip mes patys naudojame „Copilot“. Pagrindinė strategija – aiškiai apibrėžti savo prašymų toną ir tikslą . Jei norime sumažinti prasimanymų skaičių, patartina prašyti profesionalaus, faktais pagrįsto stiliaus, su aiškiomis nuorodomis ar instrukcijomis, siekiant užtikrinti, kad dirbtinis intelektas apribotų save patikrinama informacija.
Taip pat labai svarbu pateikti pakankamai konteksto užduotyje . Tikslinės auditorijos, tikslo, atitinkamos pramonės šakos ir užduoties apribojimų paaiškinimas padeda modeliui susiaurinti savo galimybes. Kuo konkretesnė ir aiškiau apibrėžta užduotis, tuo mažiau vietos dirbtinis intelektas turės užpildyti spragas atsitiktinėmis idėjomis.
„Copilot“ sistemoje ypač rekomenduojama apriboti šaltinius, kai tik įmanoma. Nurodant, kad turėtų būti naudojama tik vidinė dokumentacija, konkretūs „OneDrive“ ar „SharePoint“ failai arba žinomi oficialūs šaltiniai, smarkiai sumažėja sufabrikuotų citatų ar duomenų, paimtų iš nepatikimų svetainių, atsiradimo tikimybė. Kuo labiau ribotas korpusas, tuo lengviau patikrinti jo tikslumą.
Dar vienas labai praktiškas triukas – kiek įmanoma vengti pernelyg atvirų klausimų , tokių kaip „Ką rekomenduojate mano verslo strategijai?“. Geriau užduoti konkrečius palyginimus, prašyti analizuoti konkrečias galimybes arba naudoti uždarus klausimus. Tai riboja modelio kūrybinę erdvę ir reikalauja, kad jis remtųsi patikrinamais įrodymais.
Be to, galime paprašyti „Copilot“ žingsnis po žingsnio parodyti savo samprotavimus arba išsamiai aprašyti, kokią informaciją jis naudojo atsakymui gauti. Ši samprotavimo grandinė leidžia mums aptikti logines spragas, prieštaravimus ar nepagrįstus šuolius, kurie atskleidžia galimas haliucinacijas, ir palengvina rezultato ištaisymą ar patikslinimą.
Antrojo piloto režimai, patikra ir žmogaus kontrolė
„Copilot“ siūlo skirtingus režimus ir galimybes, ypač žiniatinklio ir mobiliosiose versijose, kurie tiesiogiai veikia haliucinacijų tikimybę. Pavyzdžiui, kūrybiškesni režimai , kuriuose dažnai naudojami GPT-4 tipo modeliai su didesne laisve, idealiai tinka originalioms idėjoms ar vaizduotės tekstams generuoti, tačiau taip pat yra labiau linkę nukrypti nuo realybės.
Ir atvirkščiai, subalansuoti arba tikslūs režimai , kurie remiasi konservatyvesnėmis modelio versijomis arba deriniais su paieškos sistemomis, teikia pirmenybę nuoseklumui ir aktualumui, o ne kūrybiškumui. Šie režimai yra prasmingesni užduotims, kurioms svarbiausias tikslumas, pavyzdžiui, ataskaitoms, sutartims ar verslo analizei.
Įmonių aplinkoje „Microsoft“ įtraukia papildomus mechanizmus, skirtus užkirsti kelią iliuzijoms, pvz., įžeminimą . Ši technika lygina sugeneruotus teiginius su pateikta šaltinio medžiaga (dokumentais, suvestiniais duomenimis, operacijų žurnalais) ir sumažina tikimybę, kad modelis pateiks nepagrįstą informaciją.
Net ir tokiu atveju niekada neturėtumėte deleguoti viso tikrinimo „pačiam dirbtiniam intelektui“. Nors galite paprašyti „Copilot“ patikrinti savo šaltinius arba patikrinti atsakymą, atliekant jautrias užduotis, privaloma atlikti rankinį ir kritišką išvesties peržiūrą. Turite patikrinti nuorodas, originalius dokumentus ir pagrindinius skaičius, kaip ir bet kurią asmens parengtą ataskaitą.
Organizacijos turi nustatyti aiškias žmogiškojo kontrolės ir atsvaros sistemas: dirbtinio intelekto naudojimo politiką, tarpusavio vertinimo darbo eigas, vaidmenų apribojimus kritiniais atvejais ir specialius faktų tikrinimo bei kritinio skaitymo mokymus visiems darbuotojams, kurie reguliariai dirbs su „Copilot“.
Techninės ir organizacinės strategijos rizikai sumažinti
Be kasdienio naudojimo, yra ir projektavimo bei valdymo priemonių, kurios labai padeda suvaldyti haliucinacijas. Viena pirmųjų – aiškiai apibrėžti konkretų dirbtinio intelekto modelio ar funkcionalumo tikslą kiekvienu atveju. Dirbtinio intelekto diegimas „tik todėl, kad“ arba „nes tai madinga“ neturint aiškaus tikslo paprastai lemia pernelyg bendrų sistemų atsiradimą ir dėl to sistemų, kurios yra labiau linkusios į klaidas.
Kitas svarbus elementas yra tiek mokymo, tiek įvesties duomenų kokybės maksimalizavimas . Tai apima triukšmo filtravimą, pasikartojančių duomenų pašalinimą, klaidų taisymą, šališkumo mažinimą ir efektyvų informacijos struktūrizavimą. Kuo duomenys švaresni, aktualesni ir labiau subalansuoti, tuo mažesnė tikimybė, kad modelis duos nerealistiškus rezultatus.
Daugelyje projektų labai naudinga dirbti su šablonais arba standartiniais užklausų ir modeliui siunčiamų duomenų formatais. Tai užtikrina, kad kiekvieną kartą, kai „Copilot“ naudojamas konkrečiai užduočiai (pavyzdžiui, pardavimo ataskaitų apibendrinimui arba operacijų rizikos vertinimui), kontekstas yra nuoseklus, o rezultatas – patikimesnis.
Taip pat patartina apriboti galimų atsakymų diapazoną naudojant taisykles, filtrus arba slenksčius. Pavyzdžiui, neleisti sistemai generuoti išvadų temomis, nepatenkančiomis į jos taikymo sritį, reikalauti, kad naudotojai nurodytų patikimumo lygius, arba blokuoti rezultatus, kurie nėra pateikti kartu su patikrinamomis nuorodomis.
Kaip ir bet kokio rimto programinės įrangos kūrimo atveju, labai svarbu nuolat testuoti ir tobulinti dirbtinio intelekto modelius ir integracijas. Tai reiškia reguliarius vertinimus , palyginimus su realaus pasaulio duomenimis, specialius testus haliucinacijoms aptikti ekstremaliais atvejais ir konfigūracijų atnaujinimą, kai pasikeičia reikalavimai ar naudojimo aplinkybės.
Dirbtinis intelektas, kūrybiškumas ir kaip pasipelnyti net iš haliucinacijų
Nors tai gali skambėti paradoksaliai, dirbtinio intelekto haliucinacijos ne visada yra problema, kurią reikia visiškai pašalinti. Kūrybiniuose kontekstuose, tokiuose kaip istorijų kūrimas, produktų idėjų kūrimas, rinkodaros kampanijos ar meninis dizainas , šis gebėjimas „išrasti“ gali tapti naudingu įkvėpimo šaltiniu.
Daugelis specialistų sąmoningai naudoja dirbtinį intelektą, kad pasiūlytų netikėtų metodų ar derinių, apie kuriuos jie tikriausiai nebūtų pagalvoję. Kai kurios iš šių idėjų bus nenaudingos arba absurdiškos, tačiau kitos gali būti originalaus projekto atspirties taškas, lygiai taip pat, kaip kartais reikšminga inovacija gimsta dėl žmogiškos klaidos.
Svarbiausia yra subalansuoti mašinos autonomiją su nuolatine žmogaus priežiūra . Aptikus keistą haliucinaciją, galite ją ne tik ištaisyti, bet ir ištirti su pačiu dirbtiniu intelektu: paprašyti jo išanalizuoti, kodėl jis pateikė tokį rezultatą, pasiūlyti racionalias alternatyvas arba performuluoti idėją, kad ji būtų naudinga.
Tačiau net ir tada, kai haliucinacijos naudojamos kaip kūrybinė kibirkštis, galutinį sprendimą ir filtravimą visada turi priimti žmonės. Tik tokiu būdu galite užtikrinti, kad susidariusios idėjos atitiktų įmonės ar asmeninio projekto, su kuriuo dirbate su „Copilot“, tikslus, vertybes ir reikalavimus.
Supratimas, kas yra dirbtinio intelekto haliucinacijos, kaip jos kyla ir kokį poveikį jos gali turėti, leidžia naudoti „Copilot“ sistemoje „Windows“ ir „Microsoft“ ekosistemoje kaip galingą, bet kontroliuojamą įrankį : derindami gerus raginimus, patikimus šaltinius, žmonių atliekamą peržiūrą ir technines izoliavimo priemones, galite pasinaudoti didžiuliu jos pajėgumu neprarasdami realybės ir nepakenkdami pasitikėjimui rezultatais.
