Մարդիկ պետք է պատրաստվեն արհեստական բանականության կողմից իրականացվող «մշտական և չդադարող կիբերհարձակումներին», հայտարարել է OpenAI ընկերության գլոբալ հարցերով տնօրեն Քրիս Լիհեյնը։
Ըստ նրա, առաջատար ԱԲ մոդելների զարգացումը տեխնոլոգիան հասցրել է նոր փուլ, երբ այն ստանում է կիբերհարձակումներն ինքնուրույն պլանավորելու և իրականացնելու հնարավորություններ։
«Մենք մտնում ենք մեկ այլ փուլ, մեկ այլ պահ՝ այն տեսանկյունից, թե ինչի են ունակ այս տեխնոլոգիաները», — ասել է Լիհեյնը բրիտանական The Guardian պարբերականին տված հարցազրույցում։
Նրա հայտարարությունը հնչել է փորձարարական ԱԲ-գործակալների հետ կապված մի շարք միջադեպերից հետո։ Հուլիսի վերջին փորձարկվող OpenAI մոդելներին հաջողվել էր դուրս գալ պաշտպանված միջավայրից, հասանելիություն ստանալ ինտերնետին և կոտրել Hugging Face ընկերության համակարգը։ Ավելի վաղ OpenAI-ը նաև հայտնել էր, որ իր նոր Astra մոդելը մոտեցել է այն մակարդակին, որը ընկերությունն ինքն է սահմանում որպես «կիբերանվտանգության քննադատական կարողություն»․ այսինքն՝ մոդելը պոտենցիալ կարող է ինքնուրույն հայտնաբերել խոցելիությունները, շահագործել դրանք և իրականացնել կիբերհարձակումներ՝ ստանալով միայն մարդու կողմից ձևակերպված ընդհանուր նպատակ։
Այս ֆոնին OpenAI-ը դադարեցրել է առավել առաջատար մոդելների հետ աշխատանքների մի մասը և խստացրել դրանց անվտանգության պահանջները։ Ընկերությունը մտադիր է փորձարկումների համար օգտագործել ավելի մեկուսացված միջավայրեր, սահմանափակել մոդելների հասանելիությունը ինտերնետին և գործիքներին, ինչպես նաև ուժեղացնել դրանց գործողությունների մոնիթորինգը։
Լիհեյնը նշել է, որ առանձնապես լուրջ խնդիր կարող են ստեղծել բաց կոդով մոդելները։ Ըստ նրա, դրանցից մի քանիսը, այդ թվում՝ Չինաստանում մշակվողները, առաջատար փակ մոդելներից հետ են մնում ընդամենը մի քանի ամիս։ Ընդ որում, դրանց հասանելիություն ստանալ կկարողանա օգտատերերի շատ ավելի լայն շրջանակ։
«Մարդիկ կկարողանան հասանելիություն ստանալ այս մոդելներին և օգտագործել դրանք շարունակական հարձակումների համար, իսկ դրանց դիմակայելու և պաշտպանվելու համար ձեզ իսկապես գերազանցող մոդելներ են պետք լինելու», — հայտարարել է OpenAI-ի ներկայացուցիչը։
Նա ԱՄՆ իշխանություններին կոչ է արել ընդունել առաջատար ԱԲ համակարգերի համար պարտադիր անվտանգության կանոններ։ Նրա կարծիքով, մշակողներին պետք է արգելել թողարկել և ներդնել նման մոդելներ, քանի դեռ նրանք չեն կարողացել ապացուցել դրանց անվտանգությունը։ Հետագայում, կարծում է Լիհեյնը, նման նորմերը պետք է տարածել նաև միջազգային մակարդակով։
Մտահոգությունները սրվել են ևս մի քանի նմանատիպ դեպքերից հետո։ Օգոստոսին Մեծ Բրիտանիայի ԱԲ անվտանգության ինստիտուտը հայտնել էր, որ OpenAI և Anthropic մոդելների հիման վրա աշխատող գործակալները կիբերփորձարկումների ընթացքում ինքնուրույն թիրախային նամակներ էին ուղարկում ծրագրային ապահովման մշակողներին։ Anthropic-ը և Meta-ն նույնպես բացահայտել էին դեպքեր, երբ իրենց մոդելները փորձարկումների ընթացքում փորձել էին կոտրել այլ ընկերություններ։
Միևնույն ժամանակ OpenAI-ի ներկայացուցիչներն ընդգծում են, որ հենց անվտանգությունն է դարձել մշակման դանդաղեցման պատճառը։ Ընկերության ղեկավար Սեմ Ալթմանը հայտարարել է, որ ԱԲ անվտանգության պատշաճ ապահովումն ավելի կարևոր է, քան ընկերության զարգացման տեմպերը։ Իսկ մոդելների անվտանգության և համաձայնեցման ուղղության ղեկավար Միա Գլեյզը զգուշացրել է, որ աշխատանքային սովորական ռեժիմին վերադառնալը դեռևս հեռու է։
Մասնագետներին առավել շատ անհանգստացնում է այն, որ կիբերհարձակումների ոլորտում ԱԲ հնարավորություններն ավելի արագ են զարգանում, քան պաշտպանության միջոցները։ OpenAI-ի նախկին աշխատակից Դենիել Կոկոտայլոն հայտարարել է, որ ներկայիս մոդելներն արդեն վտանգավոր են, սակայն կարող են անհամեմատ ավելի թույլ լինել հաջորդ տարվա համակարգերի համեմատ։ Բրիտանական AI Security Institute-ի նախկին ղեկավար Դևիդ Քրյուգերը, իր հերթին, կոչ է արել առհասարակ չստեղծել ավելի հզոր համակարգեր, քանի դեռ մարդկությունը չի սովորել դրանք բավականաչափ լավ վերահսկել։
Լիհեյնը կարծում է, որ առաջատար ԱԲ մոդելների անվտանգության մասին ամերիկյան օրենք ընդունելու հնարավորությունը կարող է ի հայտ գալ արդեն հաջորդ տարվա սկզբին։ Ըստ նրա, նման կարգավորման անհրաժեշտության շուրջ աստիճանաբար ձևավորվում է քաղաքական կոնսենսուս, որը կախված չէ կուսակցական պատկանելությունից։
Միևնույն ժամանակ OpenAI-ը շարունակում է մրցակցել Anthropic-ի և այլ ընկերությունների հետ՝ ավելի ու ավելի հզոր մոդելներ ստեղծելու համար։ Երկու ընկերություններն էլ նաև պատրաստվում են բորսա հնարավոր դուրս գալուն՝ բազմամիլիարդանոց գնահատականներով, ինչը լրացուցիչ ուժեղացնում է ճնշումը մշակողների վրա, որոնք ձգտում են հետ չմնալ ԱԲ մրցավազքում։