Šis stāsts ir sindicēts no Substack biļetena Big Technology; abonējiet bez maksas šeit .
Pagājušajā nedēļā Amsterdamas Pasaules samita AI priekšā pie pārpildītas mājas es lūdzu Meta, Google, IBM un Saseksas universitātes vecākos pētniekus izteikties, ja viņi nevēlas, lai AI atspoguļotu cilvēka intelektu. Pēc dažiem klusuma brīžiem neviena roka nepacēlās.
Atbilde atspoguļoja AI nozares ambīcijas veidot cilvēka līmeņa izziņu, pat ja tā varētu zaudēt kontroli pār to. AI pašlaik nav jūtīgs — un vēl kādu laiku, ja kādreiz, tā nebūs, taču apņēmīga AI nozare jau izdod programmas, kas var tērzēt, redzēt un zīmēt tāpat kā cilvēki, kad tā mēģina tur nokļūt. Un tai virzoties uz priekšu, tas riskē ar savu progresu bīstamā nezināmajā.
'Es nedomāju, ka jūs varat aizvērt Pandoras lādi,' sacīja Greidijs Būs, IBM galvenais zinātnieks par iespējamo cilvēka līmeņa AI. 'Līdzīgi kā kodolieroči, kaķis ir ārā no maisa.'
AI progresa salīdzināšana ar kodolieročiem ir piemērota, taču nepilnīga. AI pētnieki var līdzināties kodolzinātnieku vēlmei sasniegt tehnisko progresu, neskatoties uz sekām, pat ja briesmas ir dažādos līmeņos. Tomēr vairāk cilvēku piekļūs AI tehnoloģijai nekā dažām valdībām, kurām ir kodolieroči, tāpēc līdzīga ierobežojuma iespēja ir maza. Nozare jau parāda nespēju tikt tai līdzi izrāvienu neprāts .
facebook draugi nav īsti draugi
Grūtības ierobežot AI bija acīmredzamas šā gada sākumā pēc tam, kad OpenAI iepazīstināja ar Dall-E, savu AI mākslas programmu. Jau no paša sākuma OpenAI vadīja Dall-E ar pārdomātiem noteikumiem, lai mazinātu tā negatīvās puses, un lēnu ieviešanu, lai novērtētu tā ietekmi. Taču, tā kā Dall-E ieguva vilces spēku, pat OpenAI atzina, ka ar kopēšanu var maz ko darīt. 'Es varu runāt tikai ar OpenAI' teica OpenAI pētnieks Lama Ahmads, kad viņam jautāja par potenciālajiem emulatoriem.
Dall-E kopijas ieradās drīz pēc tam un ar mazākiem ierobežojumiem. Konkurenti, tostarp Stable Diffusion un Midjourney, demokratizēja spēcīgu tehnoloģiju bez šķēršļiem, un visi sāka veidot AI attēlus. Dall-E, kas līdz pagājušā mēneša beigām pieņēma tikai 1000 jaunu lietotāju nedēļā atvērta ikvienam .
Līdzīgi modeļi noteikti parādīsies, kad arvien vairāk AI tehnoloģiju izlaužas neatkarīgi no sākotnējā izstrādātāju izmantotajām margām.
Jāatzīst, ka ir dīvains laiks, lai apspriestu, vai AI var atspoguļot cilvēka intelektu — un kādas dīvainas lietas notiks ceļā —, jo liela daļa no tā, ko AI dara šodien, ir elementāra. Pašreizējo sistēmu nepilnības un izaicinājumus ir viegli norādīt, un daudzi šajā jomā nevēlas iesaistīties ilgtermiņa jautājumos (piemēram, vai AI var kļūt jūtīgs), jo viņi uzskata, ka viņu enerģiju labāk tērēt tūlītējām problēmām. Īstermiņa un garie ir divas atsevišķas grupas AI pasaulē.
Tomēr, kā mēs redzējām šogad, AI steidzas uz priekšu. Progress iekšā lieli valodu modeļi padarīja tērzēšanas robotus gudrākus, un tagad mēs apspriežam to sajūtu (vai, precīzāk, to trūkumu). AI māksla pagājušajā gadā nebija publiskajā iztēlē, un tagad tā ir visur. AI ir arī tagad veidojot video no teksta virknēm. Pat tad, ja esat īstermiņa piekritējs, ilgtermiņā var iestāties pirms grafika. Es biju pārsteigts par to, cik daudz AI zinātnieku skaļi teica, ka viņi nevar un nevēlas definēt apziņu.
Protams, ir iespēja nelīdzināties kodolieroču zinātniekiem. Domāt savādāk, nekā to izteicās J. Roberts Openheimers, kurš vadīja darbu pie atombumbas. 'Kad redzat kaut ko tehniski patīkamu,' viņš teica, 'jūs ejiet uz priekšu un dariet to un strīdaties par to, ko darīt, tikai pēc tam, kad esat guvis tehniskos panākumus.'
Iespējams, šoreiz vairāk pārdomātu rezultātu varētu sasniegt labāk.
