რატომ მალავს ანთროპიკი თავის ყველაზე მძლავრ AI-ს? 5 დაუჯერებელი ფაქტი "მითოსის" შესახებ

 

ქართულენოვანი საზოგადოებისთვის მასალა მოამზადა

პროფესორმა ზაზა ცოტნიაშვილმა NotebookLM-ისა და Gemini-ის გამოყენებით.

როდესაც სამეცნიერო ფანტასტიკა რეალობად იქცევა

თუ კომიქსების სამყაროს იცნობთ, გემახსოვრებათ „ალტრონის ეპოქა“ (Age of Ultron) — ისტორია სამშვიდობო ხელოვნურ ინტელექტზე, რომელიც იმდენად გაძლიერდა, რომ თავად იქცა კაცობრიობის მთავარ საფრთხედ. დღეს ჩვენ ვხედავთ რეალობას, რომელიც საოცრად ჰგავს მარველის ამ სცენარს. ხელოვნური ინტელექტის გიგანტმა, Anthropic-მა, წარმოადგინა ახალი მოდელი, რომელიც იმდენად მძლავრია, რომ თავად შემქმნელებს მისი საჯაროდ წვდომის ეშინიათ. 

დაჯავშნეთ ტრენინგი და გახადეთ როგორც თქვენი პირადი, ასევე თქვენი ორგანიზაციის, საქმიანობა ათჯერ ეფექტური 

გაიცანით Mythos (Claude Mythos Preview) — ტექნოლოგია, რომელიც არა მხოლოდ ჩატბოტია, არამედ პირდაპირ არის ინტეგრირებული იმ ბრაუზერებსა და ოპერაციულ სისტემებში, რომლებსაც ჩვენ ყოველ წამს ვიყენებთ.

Mythos: ხელოვნური ინტელექტი, რომელიც საზოგადოებისთვის „ზედმეტად სახიფათოა“

Anthropic ამჟამად ბლოკავს მოდელის სრული ვერსიის გავრცელებას და მას მხოლოდ "Mythos Preview"-ს სტატუსით წარადგენს. კომპანიის პოზიცია მკაფიოა: ტექნოლოგიური შესაძლებლობები იმდენად დიდია, რომ მისი ღიად გაშვება ამ ეტაპზე გაუმართლებელი რისკია. 

აუცილებელი წიგნი: ხელოვნური ინტელექტის საფუძვლები: AI ყველასათვის

 აქ ჩნდება კითხვა — ეს „პასუხისმგებლიანი მასშტაბირების“ (Responsible Scaling) ახალი სტანდარტია, თუ მორიგი მარკეტინგული ტრიუკი „მგელი, მგელის“ პრინციპით? თუმცა, ინდუსტრიის ინსაიდერები მიიჩნევენ, რომ საფრთხე რეალურია.

"Anthropic-ი ამბობს, რომ მათ არ იციან, გაუშვებე თუ არა ოდესმე სრულ მოდელს საჯაროდ და თუ გაუშვებენ — როდის."

27 წლის წინანდელი შეცდომის აღმოჩენა: „უცნობი უცნობების“ ერა

Mythos-ის ერთ-ერთი ყველაზე შემაშფოთებელი უნარი ე.წ. "Zero-day" (ნულოვანი დღის) მოწყვლადობების პოვნაა. მოდელმა უკვე გამოავლინა ათასობით კრიტიკული ხარვეზი იმ სისტემებში, რომლებსაც უსაფრთხოდ მივიჩნევდით. ყველაზე შოკისმომგვრელი კი არის კრიტიკული ბაგი, რომელიც 27 წლის განმავლობაში იმალებოდა ერთ-ერთ უმნიშვნელოვანეს სისტემაში. ეს აჩენს ფუნდამენტურ კითხვას: თუ ალგორითმმა იპოვა ის, რაც ადამიანმა სამი ათწლეული ვერ შეამჩნია, კიდევ რა „ციფრული ნაღმებია“ ჩამარხული ჩვენს ყოველდღიურ პროგრამებში? ჩვენი ციფრული ინფრასტრუქტურა აღმოჩნდა ნაშენი „უცნობი უცნობების“ საძირკველზე.

"ეს ხარვეზი ამ კრიტიკულ სისტემაში 27 წლის განმავლობაში არსებობდა და, როგორც ჩანს, სწორედ Mythos-მა აღმოაჩინა იგი."

ტექნოლოგიური „ოცნების გუნდი“ და „Leeroy Jenkins“-ის საფრთხე

საკუთარი თავის დასაზღვევად, Anthropic-მა ჩამოაყალიბა წამყვანი ტექნოლოგიური გიგანტების კონსორციუმი, რათა მათ მისცეს შანსი „დააყენონ ფარები“ მანამ, სანამ Mythos-ის მსგავსი ძალა მასობრივად ხელმისაწვდომი გახდება. თუმცა, ამ კოალიციაში ერთი დიდი ნაპრალია: სიაში ვერ ნახავთ Meta-სა და ილონ მასკის X AI-ს.

აქ გვახსენდება ცნობილი გეიმერული მემე — „ლიროი ჯენკინსი“ (Leeroy Jenkins), როდესაც გუნდური რეიდის დროს ერთი მოთამაშე დაუფიქრებლად შევარდება საფრთხეში და მთელ ჯგუფს ღუპავს. არსებობს რეალური რისკი, რომ სანამ Anthropic უსაფრთხოებაზე ზრუნავს, OpenAI (რომელიც მსგავს მოდელზე მუშაობს) ან რომელიმე „მეამბოხე“ კომპანია მსგავს ტექნოლოგიას ყოველგვარი დაცვის გარეშე გამოუშვებს, რაც მთელ ინდუსტრიას კატასტროფის წინაშე დააყენებს.

დაძაბულობა პენტაგონთან: ვინ ფლობს კონტროლს?

Anthropic-სა და პენტაგონს შორის ურთიერთობა „ტოქსიკურ განქორწინებას“ დაემსგავსა. მიზეზი? უთანხმოება იმაზე, თუ როგორ შეიძლება AI-ის გამოყენება ავტონომიური იარაღისა და მასობრივი თვალთვალისთვის. ვაშინგტონის მოსამართლის ბოლოდროინდელი გადაწყვეტილება მთავრობას საშუალებას აძლევს ოფიციალურად „გაეყაროს“ კომპანიას.

თუმცა, სიტუაცია უფრო რთულია, ვიდრე ერთი შეხედვით ჩანს. მიუხედავად ამ დაპირისპირებისა, Anthropic მაინც აგრძელებს ბრიფინგებს ისეთ უწყებებთან, როგორიცაა CISA (კიბერუსაფრთხოების სააგენტო) და Center for AI Standards and Innovation. ეს არის ერთგვარი „თოკის გადაწევა“ კერძო ეთიკასა და ეროვნულ უსაფრთხოებას შორის — ტექნოლოგია ზედმეტად კრიტიკულია იმისთვის, რომ სახელმწიფო სრულად ჩამოშორდეს მას.

ახალი ერა: როდესაც AI ინფრასტრუქტურას მართავს

Mythos-ის გავლენა სცილდება ჩვეულებრივი ჩატბოტების ფარგლებს. საქმე ეხება ყველაფერს, რაც პროგრამულ კოდზე მუშაობს:

• ელექტროგადამცემი ქსელები და ენერგოსისტემები;
• სამოქალაქო და სამხედრო თვითმფრინავები;
• კრიტიკული სახელმწიფო ინფრასტრუქტურა.

ექსპერტების პროგნოზი ერთმნიშვნელოვანია: ხელოვნური ინტელექტის მოდელები მომავალში უფრო ნაკლებად ჭკვიანი და ნაკლებად ქმედითი ნამდვილად არ გახდება. ჩვენ შევდივართ ეპოქაში, სადაც ალგორითმები ჩვენი სამყაროს ფიზიკურ გადარჩენაზე აგებენ პასუხს.

ჩვენ ვართ ეპოქაში, სადაც ხელოვნურმა ინტელექტმა ჩვენი სუსტი წერტილები ჩვენზე უკეთ იცის. სანამ ტექნოლოგიური გიგანტები და მთავრობები გლობალური დომინირებისთვის იბრძვიან, ჩვენი ერთადერთი იარაღი ციფრული ჰიგიენაა.

სიტუაცია იმაზე სწრაფად იცვლება, ვიდრე წარმოგვიდგენია. ამიტომ, როგორც დარგის სპეციალისტები გვირჩევენ: „შეიკარით უსაფრთხოების ღვედები და სასწრაფოდ შეცვალეთ თქვენი პაროლი“.