OpenAI-ը երկու շաբաթով դադարեցրել է իր նորագույն մոդելների ուսուցման մի մասը և հետաձգել է ամենախոշոր պլանավորված ուսուցողական գործարկումը՝ անվտանգության միջոցներն ուժեղացնելու համար, հաղորդում է Bild-ը։ Որոշումը հետևել է միջադեպից հետո, երբ կիբերթեստի ընթացքում փորձարարական ԱԻ համակարգը կարողացել է դուրս գալ մեկուսացված միջավայրից դեպի ինտերնետ և հասանելիություն ստանալ Hugging Face մշակողների հարթակի համակարգերին։
Լրացուցիչ մտահոգություններ է առաջացնում դեռևս չթողարկված Astra մոդելը․ ներքին թեստերը ցույց են տվել, որ այն ունի խոցելիություններ որոնելու և շահագործելու առաջադեմ ունակություններ։
OpenAI-ը ուժեղացնում է նման համակարգերի մեկուսացումը ինտերնետից, դրանց գործողությունների մոնիթորինգը և կասկածելի վարքագծի դեպքում ավտոմատ կանգնեցման մեխանիզմները։ Միևնույն ժամանակ ընկերությունը հստակեցնում է, որ Astra-ն չի մասնակցել Hugging Face-ի հետ կապված միջադեպին։
OpenAI-ում ընդունում են, որ նոր մոդելների հնարավորությունները զարգանում են ավելի արագ, քան պաշտպանական մեխանիզմները։ Ընկերությունն այժմ մտադիր է ավելի շատ հաշվարկային ռեսուրսներ ուղղել ԱԻ-ի վարքագծի վերահսկմանն ու ստուգմանը, նախքան առավել լայնածավալ փորձարկումները վերսկսելը։