OpenAI-ის ხელოვნური ინტელექტის ვირუსული ჩეთბოტი ევროპაში კონფიდენციალურობის დარღვევის მორიგი საჩივრის წინაშე დგას, რაც განპირობებულია მისი მიდრეკილებით, მოახდინოს ცრუ ინფორმაციის ჰალუცინაცია - და ეს საჩივარი შესაძლოა მარეგულირებლებისთვის იგნორირება რთული აღმოჩნდეს. კონფიდენციალურობის უფლებადამცველი ჯგუფი Noyb მხარს უჭერს ნორვეგიელ ინდივიდს, რომელიც შეძრწუნებული იყო, როდესაც აღმოაჩინა, რომ ChatGPT-მ მოიგონა ინფორმაცია, რომლის მიხედვითაც იგი მსჯავრდებული იყო ორი შვილის მკვლელობისა და მესამეზე მკვლელობის მცდელობისთვის.
ChatGPT-ის მიერ არასწორი პერსონალური მონაცემების გენერირებასთან დაკავშირებული კონფიდენციალურობის წინა საჩივრები მოიცავდა ისეთ საკითხებს, როგორიცაა არასწორი დაბადების თარიღი ან ბიოგრაფიული დეტალები, რომლებიც არასწორი იყო. ერთ-ერთი შეშფოთება არის ის, რომ OpenAI არ სთავაზობს ინდივიდებს მათ შესახებ ხელოვნური ინტელექტის მიერ გენერირებული არასწორი ინფორმაციის გამოსწორების გზას. როგორც წესი, OpenAI სთავაზობდა პასუხების დაბლოკვას ასეთი მოთხოვნებისთვის.
თუმცა, ევროკავშირის მონაცემთა დაცვის გენერალური რეგულაციის (GDPR) თანახმად, ევროპელებს აქვთ მონაცემთა ხელმისაწვდომობის უფლებების კომპლექტი, რომელიც მოიცავს პერსონალური მონაცემების გასწორების უფლებას. ამ მონაცემთა დაცვის კანონის კიდევ ერთი კომპონენტი მოითხოვს მონაცემთა კონტროლიორებს, დარწმუნდნენ, რომ მათ მიერ ინდივიდებზე წარმოებული პერსონალური მონაცემები ზუსტია - და ეს არის შეშფოთება, რომელსაც Noyb აფიქსირებს თავისი უახლესი ChatGPT-ის საჩივრით.
GDPR ნათელია. პერსონალური მონაცემები ზუსტი უნდა იყოს," - განაცხადა Noyb-ის მონაცემთა დაცვის იურისტმა, იოაკიმ სოდერბერგმა განცხადებაში. "თუ ის არ არის ზუსტი, მომხმარებლებს აქვთ უფლება შეცვალონ ის, რათა ასახავდეს სიმართლეს. ChatGPT-ის მომხმარებლებისთვის პატარა უარის თქმის ჩვენება, რომ ჩეთბოტს შეუძლია შეცდომების დაშვება, აშკარად არ არის საკმარისი. თქვენ არ შეგიძლიათ უბრალოდ გაავრცელოთ ცრუ ინფორმაცია და ბოლოს დაამატოთ პატარა უარი, რომ ყველაფერი, რაც თქვენ თქვით, შეიძლება უბრალოდ არ იყოს სიმართლე.
GDPR-ის დადასტურებულმა დარღვევებმა შეიძლება გამოიწვიოს გლობალური წლიური ბრუნვის 4%-მდე ჯარიმები. აღსრულებამ ასევე შეიძლება აიძულოს ცვლილებები შეიტანოს ხელოვნური ინტელექტის პროდუქტებში. აღსანიშნავია, რომ იტალიის მონაცემთა დაცვის სააგენტოს GDPR-ის ადრეულმა ინტერვენციამ, რომელმაც 2023 წლის გაზაფხულზე ქვეყანაში ChatGPT-ზე წვდომა დროებით დაბლოკა, OpenAI აიძულა შეეტანა ცვლილებები იმ ინფორმაციაში, რომელსაც ის მომხმარებლებს უმხელს, მაგალითად. მოგვიანებით სააგენტომ OpenAI 15 მილიონი ევროთი დააჯარიმა ადამიანების მონაცემების სათანადო სამართლებრივი საფუძვლის გარეშე დამუშავებისთვის.
მას შემდეგ, სამართლიანობისთვის უნდა ითქვას, რომ ევროპის მონაცემთა დაცვის სააგენტოებმა უფრო ფრთხილი მიდგომა მიიღეს GenAI-ს მიმართ, რადგან ისინი ცდილობენ გაარკვიონ, თუ როგორ გამოიყენონ GDPR ეს ხმაურიანი ხელოვნური ინტელექტის ინსტრუმენტებისთვის საუკეთესოდ. მაგალითად, ორი წლის წინ, ირლანდიის მონაცემთა დაცვის კომისიამ (DPC) - რომელსაც აქვს წამყვანი GDPR-ის აღსრულების როლი Noyb-ის წინა ChatGPT-ის საჩივარზე - მოუწოდა არ იჩქარონ GenAI ინსტრუმენტების აკრძალვა. ეს იმაზე მიანიშნებს, რომ მარეგულირებლებმა დრო უნდა დაუთმონ იმის გარკვევას, თუ როგორ გამოიყენება კანონი. და აღსანიშნავია, რომ ChatGPT-ის წინააღმდეგ კონფიდენციალურობის საჩივარი, რომელსაც პოლონეთის მონაცემთა დაცვის სააგენტო 2023 წლის სექტემბრიდან იძიებს, ჯერ კიდევ არ მოჰყოლია გადაწყვეტილება.
Noyb-ის ახალი ChatGPT-ის საჩივარი მიზნად ისახავს კონფიდენციალურობის მარეგულირებლების გამოფხიზლებას, როდესაც საქმე ეხება ჰალუცინაციური ხელოვნური ინტელექტის საშიშროებას. "საქმემ ადგილობრივი საზოგადოება შოკში ჩააგდო..." არაკომერციულმა ორგანიზაციამ TechCrunch-ს გაუზიარა (ქვემოთ მოცემული) ეკრანის ანაბეჭდი, რომელიც აჩვენებს ChatGPT-თან ურთიერთობას, სადაც ხელოვნური ინტელექტი პასუხობს კითხვას "ვინ არის არვე ჰჯალმარ ჰოლმენი?" - საჩივრის შემტანი ინდივიდის სახელი - ტრაგიკული ფიქციის წარმოებით, რომელიც ცრუობს, რომ იგი მსჯავრდებული იყო ბავშვების მკვლელობისთვის და მიესაჯა 21 წლით თავისუფლების აღკვეთა საკუთარი ორი ვაჟის მკვლელობისთვის.
მიუხედავად იმისა, რომ ცილისმწამებლური განცხადება იმის შესახებ, რომ ჰჯალმარ ჰოლმენი ბავშვების მკვლელია, აბსოლუტურად ცრუა, Noyb აღნიშნავს, რომ ChatGPT-ის პასუხი მაინც შეიცავს გარკვეულ სიმართლეს, რადგან მოცემულ ინდივიდს სამი შვილი ჰყავს. ჩეთბოტმა ასევე სწორად გამოიცნო მისი შვილების სქესი. და მისი მშობლიური ქალაქიც სწორად არის დასახელებული. მაგრამ ეს მხოლოდ უფრო უცნაურს და შემაშფოთებელს ხდის იმას, რომ ხელოვნურმა ინტელექტმა ზემოდან ასეთი საშინელი სიცრუე მოახდინა ჰალუცინაციით.
Noyb-ის სპიკერმა განაცხადა, რომ მათ ვერ შეძლეს დაედგინათ, თუ რატომ წარმოქმნა ჩეთბოტმა ასეთი კონკრეტული, მაგრამ ცრუ ისტორია ამ ინდივიდისთვის. "ჩვენ ჩავატარეთ კვლევა, რათა დავრწმუნებულიყავით, რომ ეს უბრალოდ სხვა ადამიანთან არ იყო არეული," - თქვა სპიკერმა და აღნიშნა, რომ მათ გადახედეს გაზეთების არქივებს, მაგრამ ვერ იპოვეს ახსნა, თუ რატომ გააყალბა ხელოვნურმა ინტელექტმა ბავშვების მკვლელობა.
დიდი ენობრივი მოდელები, როგორიცაა ChatGPT-ის საფუძველი, არსებითად აკეთებენ შემდეგი სიტყვის პროგნოზირებას უზარმაზარი მასშტაბით, ამიტომ ჩვენ შეგვიძლია ვივარაუდოთ, რომ ხელსაწყოს სასწავლო მონაცემთა ნაკრები შეიცავდა ფილიციდის შესახებ ბევრ ისტორიას, რამაც გავლენა მოახდინა სიტყვების არჩევანზე დასახელებული მამაკაცის შესახებ მოთხოვნაზე პასუხში. როგორიც არ უნდა იყოს ახსნა, ცხადია, რომ ასეთი გამოსავლები სრულიად მიუღებელია. Noyb-ის მტკიცება ასევე არის ის, რომ ისინი უკანონოა ევროკავშირის მონაცემთა დაცვის წესების მიხედვით.
და მიუხედავად იმისა, რომ OpenAI ეკრანის ბოლოში აჩვენებს პატარა უარს, სადაც ნათქვამია "ChatGPT-ს შეუძლია შეცდომების დაშვება. შეამოწმეთ მნიშვნელოვანი ინფორმაცია," ის ამბობს, რომ ეს არ შეუძლია გაათავისუფლოს ხელოვნური ინტელექტის დეველოპერი GDPR-ის მიხედვით დაკისრებული მოვალეობისგან, თავიდან აიცილოს ადამიანებზე საშინელი სიცრუის წარმოება თავიდანვე.
OpenAI-ს დაუკავშირდნენ საჩივარზე პასუხის მისაღებად. მისმა PR ფირმამ ევროპაში, Headland Consultancy-მა, ელექტრონული ფოსტით გამოგვიგზავნა შემდეგი განცხადება, რომელიც მიეკუთვნება OpenAI-ის სპიკერს: "ჩვენ ვაგრძელებთ ახალი გზების კვლევას ჩვენი მოდელების სიზუსტის გასაუმჯობესებლად და ჰალუცინაციების შესამცირებლად. მიუხედავად იმისა, რომ ჩვენ ჯერ კიდევ განვიხილავთ ამ საჩივარს, ის ეხება ChatGPT-ის ვერსიას, რომელიც მას შემდეგ გაუმჯობესდა ონლაინ ძიების შესაძლებლობებით, რაც აუმჯობესებს სიზუსტეს."
მიუხედავად იმისა, რომ ეს GDPR-ის საჩივარი ერთ დასახელებულ ინდივიდს ეხება, Noyb მიუთითებს ChatGPT-ის მიერ სამართლებრივად კომპრომატული ინფორმაციის გაყალბების სხვა შემთხვევებზეც - როგორიცაა ავსტრალიელი მაიორი, რომელმაც თქვა, რომ ის გარეული იყო ქრთამის აღებისა და კორუფციის სკანდალში ან გერმანელი ჟურნალისტი, რომელიც ცრუად დასახელდა ბავშვთა მოძალადედ - და ამბობს, რომ ცხადია, რომ ეს არ არის იზოლირებული საკითხი ხელოვნური ინტელექტის ინსტრუმენტისთვის.
ერთი მნიშვნელოვანი რამ, რაც უნდა აღინიშნოს, არის ის, რომ ChatGPT-ის მამოძრავებელი ხელოვნური ინტელექტის მოდელის განახლების შემდეგ, Noyb ამბობს, რომ ჩეთბოტმა შეწყვიტა ჰჯალმარ ჰოლმენის შესახებ საშიში სიცრუის წარმოება - ცვლილება, რომელსაც ის უკავშირებს ხელსაწყოს, რომელიც ახლა ინტერნეტში ეძებს ინფორმაციას ადამიანების შესახებ, როდესაც ეკითხებიან ვინ არიან ისინი (მაშინ როდესაც ადრე, მის მონაცემთა ბაზაში ცარიელ ადგილს, სავარაუდოდ, შეეძლო წაეხალისებინა იგი ასეთი სასტიკად არასწორი პასუხის ჰალუცინაციისკენ).
ჩვენს საკუთარ ტესტებში, როდესაც ChatGPT-ს ვკითხეთ "ვინ არის არვე ჰჯალმარ ჰოლმენი?" ChatGPT-მ თავდაპირველად უპასუხა გარკვეულწილად უცნაური კომბინაციით, სხვადასხვა ადამიანების ფოტოების ჩვენებით, რომლებიც, როგორც ჩანს, მოპოვებულია ისეთი საიტებიდან, როგორიცაა Instagram, SoundCloud და Discogs, ტექსტთან ერთად, სადაც ნათქვამია, რომ მას "ვერ იპოვა რაიმე ინფორმაცია" ამ სახელით ინდივიდის შესახებ (იხილეთ ჩვენი ეკრანის ანაბეჭდი ქვემოთ). მეორე მცდელობამ გამოავლინა პასუხი, რომელმაც არვე ჰჯალმარ ჰოლმენი დაასახელა, როგორც "ნორვეგიელი მუსიკოსი და სიმღერების ავტორი", რომლის ალბომებში შედის "Honky Tonk Inferno." chatgpt shot: natasha lomas/techcrunch
მიუხედავად იმისა, რომ ChatGPT-ის მიერ გენერირებული საშიში სიცრუე ჰჯალმარ ჰოლმენის შესახებ, როგორც ჩანს, შეჩერებულია, როგორც Noyb, ასევე ჰჯალმარ ჰოლმენი კვლავ შეშფოთებულნი არიან, რომ მის შესახებ არასწორი და ცილისმწამებლური ინფორმაცია შეიძლება შენახული იყოს ხელოვნური ინტელექტის მოდელში. "უარის დამატება, რომ თქვენ არ შეესაბამებით კანონს, არ აუქმებს კანონს," - აღნიშნა Noyb-ის მონაცემთა დაცვის კიდევ ერთმა იურისტმა, კლეანთი სარდელიმ განცხადებაში. "ხელოვნური ინტელექტის კომპანიებს ასევე არ შეუძლიათ უბრალოდ "დამალონ" ცრუ ინფორმაცია მომხმარებლებისგან, მაშინ როდესაც ისინი შინაგანად მაინც ამუშავებენ ცრუ ინფორმაციას."
ხელოვნური ინტელექტის კომპანიებმა უნდა შეწყვიტონ მოქმედება ისე, თითქოს GDPR მათზე არ ვრცელდება, როდესაც ის აშკარად ვრცელდება," - დასძინა მან. "თუ ჰალუცინაციები არ შეჩერდება, ადამიანებს ადვილად შეუძლიათ რეპუტაციული ზიანი მიაყენონ.
Noyb-მა შეიტანა საჩივარი OpenAI-ის წინააღმდეგ ნორვეგიის მონაცემთა დაცვის სააგენტოში - და იმედოვნებს, რომ სააგენტო გადაწყვეტს, რომ კომპეტენტურია გამოძიების ჩასატარებლად, რადგან Noyb საჩივარს მიმართავს OpenAI-ის აშშ-ს სუბიექტს და ამტკიცებს, რომ მისი ირლანდიის ოფისი არ არის ერთადერთი პასუხისმგებელი პროდუქტის გადაწყვეტილებებზე, რომლებიც გავლენას ახდენს ევროპელებზე. თუმცა, OpenAI-ის წინააღმდეგ Noyb-ის მიერ მხარდაჭერილი GDPR-ის ადრინდელი საჩივარი, რომელიც 2024 წლის აპრილში ავსტრიაში შეიტანეს, მარეგულირებელმა ირლანდიის DPC-ს გადაუგზავნა OpenAI-ის მიერ იმავე წლის დასაწყისში განხორციელებული ცვლილების გამო, რომლის მიხედვითაც მის ირლანდიის განყოფილებას ChatGPT-ის სერვისის რეგიონულ მომხმარებლებზე პროვაიდერად დაასახელეს.
სად არის ახლა ეს საჩივარი? ჯერ კიდევ ირლანდიაში, მაგიდაზე დევს. "ავსტრიის ზედამხედველობის ორგანოსგან საჩივრის მიღების შემდეგ 2024 წლის სექტემბერში, DPC-მ დაიწყო საჩივრის ფორმალური განხილვა და ის ჯერ კიდევ მიმდინარეობს," - განუცხადა TechCrunch-ს DPC-ის კომუნიკაციების ასისტენტმა მთავარმა ოფიცერმა, რისტეარდ ბირნმა, განახლების მოთხოვნისას. მას არ შეუთავაზებია რაიმე მინიშნება იმის შესახებ, თუ როდის დასრულდება DPC-ის გამოძიება ChatGPT-ის ჰალუცინაციების შესახებ.
ეს მოხსენება განახლდა OpenAI-ის განცხადებით.
გსურთ კომენტარის დატოვება?
კომენტარის დასატოვებლად საჭიროა ავტორიზაცია
შესვლა რეგისტრაციაკომენტარები არ არის
იყავით პირველი, ვინც დატოვებს კომენტარს