Գիտնականները սոցցանցերում արհեստական բանականության (ԱԲ) օգնությամբ քննարկումները մանիպուլացնելու փորձերը բացահայտելու նոր մեթոդ են առաջարկել, գրում է The Conversation-ը։
Մեքենայական գեներացված տեքստի նշաններ փնտրելու փոխարեն համակարգը վերլուծում է՝ արդյոք հեղինակը չի փորձում աննկատ թեմայից շեղել խոսակցությունը։
Հետազոտողները նշում են, որ գեներատիվ ԱԲ-ի զարգացմանը զուգահեռ տեքստի ոճով ապատեղեկատվությունը հայտնաբերելն ավելի է դժվարանում։ Նախկինում կասկած կարող էին հարուցել քերականական սխալները, անսովոր ձևակերպումները կամ ԱԲ-ին բնորոշ բառերը։ Այժմ ժամանակակից մոդելներն ընդունակ են ստեղծել գրեթե բնական մեկնաբանություններ, ուստի նման նշանները դառնում են քիչ արդյունավետ։
Ըստ հետազոտության հեղինակների, շատ ավելի խոսուն է քննարկման մեջ հաղորդագրության վարքագիծը։ Օրինակ՝ Ուկրաինայում պատերազմի կամ կյանքի արժեքի մասին խոսակցությունը հանկարծ կարող է փոխվել միգրացիայի, կոռուպցիայի կամ քաղաքականապես կոնֆլիկտային այլ թեմայի։ Այս հնարքը հետազոտողներն անվանում են «կարմիր տառեխ» (red herring)՝ կողմնակի հարցի ներմուծում, որը շեղում է ուշադրությունը հիմնական թեմայից։
Գիտնականները վերլուծել են YouTube-ում BBC News-ի տեսանյութերի տակ եղած ավելի քան 1600 մեկնաբանություն և դրանք գնահատել ըստ 25 բնութագրի։ Պարզվել է, որ քննարկումը շեղող հաղորդագրությունների 36%-ում օգտագործվել են շեղող փաստարկներ, 65%-ում հանդիպել են տրամաբանական թռիչքներ, իսկ 20%-ում՝ անձնական հարձակումներ։ Նման մեկնաբանությունները նաև ավելի հազվադեպ են հաշվի առել նախորդ հաղորդագրությունների բովանդակությունը և կարեկցանք դրսևորել։
Այնուհետև հետազոտողներն առաջարկել են ԱԲ-ն օգտագործել նման փոփոխությունները հայտնաբերելու համար։ Յուրաքանչյուր իրական մեկնաբանության համար լեզվական մոդելը գեներացրել է խոսակցության թեմային համապատասխան մի քանի բնական պատասխան։ Դրանից հետո համակարգը համեմատել է իրական պատասխանները այդ տարբերակների հետ։ Եթե մեկնաբանությունն էապես տարբերվել է քննարկման սպասվող շարունակությունից, դա կարող էր թեման փոխելու փորձի ազդանշան լինել։
Փորձարկման ընթացքում համակարգը ճիշտ է հայտնաբերել խոսակցությունը թեմայից շեղող հաղորդագրությունները դեպքերի մոտ 77%-ում։ Դա մոտ երկու անգամ ավելի արդյունավետ է եղել, քան հիմնականում բառերի վերլուծության և տեքստի հուզական երանգի վրա հիմնված մեթոդները։
Միևնույն ժամանակ հետազոտողներն ընդգծում են՝ թեմայից շեղվելն ինքնին դեռ չի նշանակում ապատեղեկատվություն կամ չարամիտ գործունեություն։ Մարդիկ կարող են բնական կերպով փոխել խոսակցության ուղղությունը։ Ուստի այս մշակումը կարող է օգտագործվել առաջին հերթին որպես մոդերատորների համար վաղ նախազգուշացման համակարգ, այլ ոչ թե վերջնական որոշումներ կայացնելու ավտոմատ գործիք։
Հեղինակները կարծում են, որ գեներատիվ ԱԲ-ի կատարելագործմանը զուգահեռ ապատեղեկատվության դեմ պայքարն ավելի քիչ է կախված լինելու «բնորոշ բառերի» որոնումից և ավելի շատ՝ առցանց քննարկումների կառուցվածքի ու դինամիկայի վերլուծությունից։ Կարևոր է դառնում ոչ թե այն, թե ինչպես է գրված մեկնաբանությունը, այլ թե ինչու է այն հայտնվել հենց խոսակցության այդ հատվածում։