თქვენ თითქმის დაასრულეთ ეს კურსი და ვიმედოვნებ, რომ უკვე ნათლად ხედავთ, რომ AI ეფუძნება უამრავ ფორმალურ მათემატიკურ მეთოდს, რომელიც საშუალებას გვაძლევს ვიპოვოთ ურთიერთობები მონაცემებში და მოვამზადოთ მოდელები ადამიანის ქცევის ზოგიერთი ასპექტის გასამეორებლად. ისტორიის ამ ეტაპზე, ჩვენ მიგვაჩნია, რომ AI არის ძალიან ძლიერი ინსტრუმენტი მონაცემებიდან შაბლონების ამოსაღებად და ახალი პრობლემების გადასაჭრელად ამ შაბლონების გამოსაყენებლად.
პასუხისმგებელი AI-ს პრინციპები
AI-ს შემთხვევითი ან მიზანმიმართული ბოროტად გამოყენების თავიდან ასაცილებლად, Microsoft აცხადებს პასუხისმგებელი AI-ს პრინციპებს. შემდეგი ცნებები სწორედ ამ პრინციპებს ეფუძნება:
- სამართლიანობა დაკავშირებულია მოდელის მიკერძოებულობის მნიშვნელოვან პრობლემასთან, რომელიც შეიძლება გამოწვეული იყოს წვრთნისთვის მიკერძოებული მონაცემების გამოყენებით. მაგალითად, როდესაც ჩვენ ვცდილობთ ვიწინასწარმეტყველოთ ადამიანის მიერ პროგრამული უზრუნველყოფის დეველოპერის პოზიციაზე სამუშაოს დაწყების ალბათობა, მოდელი სავარაუდოდ უფრო მეტ უპირატესობას მამაკაცებს მიანიჭებს, მხოლოდ იმიტომ, რომ ტრენინგის მონაცემთა ნაკრები მამრობითი სქესის წარმომადგენლების მიმართ იყო მიკერძოებული. ჩვენ ყურადღებით უნდა დავაბალანსოთ სავარჯიშო მონაცემები და შევისწავლოთ მოდელი, რათა თავიდან ავიცილოთ მიკერძოება და დავრწმუნდეთ, რომ მოდელი უფრო შესაბამის მახასიათებლებს ითვალისწინებს.
- საიმედოობა და უსაფრთხოება. თავისი ბუნებით, AI-ს მოდელებს შეუძლია შეცდომის დაშვება. ნეირონული ქსელი აბრუნებს ალბათობას და ჩვენ ეს უნდა გავითვალისწინოთ გადაწყვეტილების მიღებისას. ყველა მოდელს აქვს გარკვეული სიზუსტე და მგრძნობელობა (precision and recall). ჩვენ უნდა გავაცნობიეროთ ეს, რათა თავიდან ავიცილოთ ზიანი, რომელიც შეიძლება არასწორმა რჩევამ გამოიწვიოს.
- კონფიდენციალურობასა და უსაფრთხოებას აქვს გარკვეული AI-ს სპეციფიკური გავლენა. მაგალითად, როდესაც ჩვენ ვიყენებთ მონაცემებს მოდელის მოსამზადებლად, ეს მონაცები გარკვეულწილად „ინტეგრირდება“ მოდელში. ერთის მხრივ, ეს ზრდის უსაფრთხოებას და კონფიდენციალურობას, მეორეს მხრივ კი, უნდა გვახსოვდეს, რომელ მონაცემებზე გაიწვრთნა მოდელი.
- ინკლუზიურობა ნიშნავს, რომ ჩვენ არ ვაშენებთ AI-ს ადამიანების ჩანაცვლებისთვის, არამედ ხალხის გასაძლიერებლად და ჩვენი მუშაობის უფრო კრეატიულობისთვის. ის ასევე დაკავშირებულია სამართლიანობასთან, რადგან ნაკლებად წარმოდგენილი თემების შემთხვევაში, ჩვენ მიერ შეგროვებული მონაცემთა ნაკრების უმეტესობა, სავარაუდოდ, მიკერძოებული იქნება და უნდა დავრწმუნდეთ, რომ ეს თემები გათვალისწინებულია და სწორად მუშავდება AI-ს მიერ.
- გამჭვირვალობა. ეს გულისხმობს იმას, რომ ყოველთვის ნათლად გვესმოდეს, სად და როგორ გამოიყენება AI. ასევე, სადაც ეს შესაძლებელია, სასურველია გამოვიყენოთ AI სისტემები, რომლებიც ინტერპრეტირებადია.
- ანგარიშვალდებულება. როდესაც AI-ს მოდელები მიიღებს გადაწყვეტილებას, ყოველთვის არ არის ნათელი, ვინ არის პასუხისმგებელი მათზე. ჩვენ უნდა დავრწმუნდეთ, რომ გვესმის, სად არის პასუხისმგებლობა AI-ს გადაწყვეტილებებზე. უმეტეს შემთხვევაში, ჩვენ გვსურს, ჩავრთოთ ადამიანები მნიშვნელოვანი გადაწყვეტილებების მიღების პროცესში, რათა რეალური ადამიანები იყვნენ პასუხისმგებელნი.
ინსტრუმენტები პასუხისმგებელი AI-სთვის
Microsoft-მა შეიმუშავა პასუხისმგებელი AI Toolbox, რომელიც შეიცავს ინსტრუმენტების კომპლექტს:
- ინტერპრეტაციის დაფა (InterpretML)
- Fairness Dashboard (FairLearn)
- შეცდომების ანალიზის დაფა
- პასუხისმგებელი AI Dashboard, რომელიც მოიცავს
- EconML - ინსტრუმენტი მიზეზობრივი ანალიზისთვის, რომელიც ფოკუსირებულია რა-თუ კითხვებზე
- DiCE - კონტრაფაქტული ანალიზის ინსტრუმენტი საშუალებას გაძლევთ ნახოთ, რომელი ფუნქციები უნდა შეიცვალოს, რომ გავლენა მოახდინოს მოდელის გადაწყვეტილებაზე
AI ეთიკის შესახებ დამატებითი ინფორმაციისთვის ეწვიეთ ეს გაკვეთილი მანქანათმცოდნეობის სასწავლო გეგმას, რომელიც მოიცავს დავალებებს.
მიმოხილვა და თვითშესწავლა
მიიღეთ ეს ისწავლე გზა მეტი პასუხისმგებელი AI-ს შესახებ.