Съдържание
Представено от: AltaML
Q:
Защо някои компании обмислят да добавят „контрол на човешката обратна връзка“ към съвременните системи за ИИ?
A:
Някои компании, работещи с авангардна AI технология, работят за въвеждането на човешки контрол върху тези системи, давайки на инструментите за машинно обучение и задълбочено обучение някои преки човешки надзор. Тези компании също не са малки играчи - DeepMind на Google и OpenAI на Илон Мъск са два примера на големи компании, които получават практически напредък в областта на изкуствения интелект. Като се има предвид това, резултатите се различават - например DeepMind беше обект на спор заради възприетото му нежелание да предоставя ключови данни на обществеността, докато OpenAI е много повече, добре, отворен за работата му по контрола на изкуствения интелект.
Дори такива забележителни, като Бил Гейтс, обръщат внимание на въпроса, Гейтс казва, че той е един от многото, които са обезпокоени от появата на изкуствено свръх разузнаване, което по някакъв начин може да излезе извън човешкия контрол. Мъск от своя страна също е изказал тревожен език за възможността за „измамник ИИ“.
Това е може би най-належащата причина компаниите да работят за прилагането на човешки контрол върху ИИ - идеята, че някаква технологична особеност ще доведе до свръхмощна разумна технология, която хората просто не могат да контролират вече. Още от зората на човешките амбиции ние поставихме инструменти, за да сме сигурни, че можем да контролираме силите, които притежаваме - независимо дали става въпрос за коне с юзди и сбруи, електричество в изолирани проводници или някакъв друг механизъм за управление, като имаме контролът е съкровено човешка функция и затова има смисъл в света, тъй като изкуственият интелект се доближава до реалната функционалност, хората прилагат собствените си директни контроли, за да поддържат тази сила под контрол.
Въпреки това, страхът от супер интелигентните роботи не е единствената причина компаниите да прилагат човешки контрол върху машинното обучение и AI проектите. Друга основна причина е машинното пристрастие - това е идеята, че системите за изкуствен интелект често са ограничени в начина, по който оценяват въпросните данни, така че да усилват всякакви пристрастия, присъщи на системата. Повечето специалисти, които се занимават с машинно обучение, могат да разказват ужасни истории за ИТ системи, които не са били в състояние да третират човешки групи потребители - независимо дали е било полово или етническо различие или някакъв друг провал на системата да разбере наистина нюансите на нашите човешки общества и как взаимодействаме с хората.
В известен смисъл можем да поставим човешки контрол върху системи, защото се страхуваме, че може да са твърде мощни - или алтернативно, защото се страхуваме, че може да не са достатъчно мощни. Човешките контроли помагат да се насочат към набори от данни за машинно обучение, за да се осигури по-голяма точност. Те помагат да се затвърдят идеите, които компютърът просто не може да научи самостоятелно, било защото моделът не е достатъчно сложен, защото AI не е напреднал достатъчно далеч, или защото някои неща просто лежат в провинцията на човешкото познание. Изкуственият интелект е чудесен за някои неща - например система, базирана на награди и оценки, позволи на изкуствения интелект да победи човек от играча в изключително сложната настолна игра „Върви“ - но за други неща тази система, базирана на стимули, е напълно неадекватен.
С две думи, съществуват множество убедителни причини, поради които хората да участват пряко в начина на работа на проектите за изкуствен интелект. Дори най-добрите технологии за изкуствен интелект могат да мислят много самостоятелно, но без действителен биологичен човешки мозък, който може да обработва неща като емоции и социални нрави, те просто не могат да видят голямата картина по човешки начин.
Квалифицирана компания за машинно обучение може да помогне за постигането на този баланс с комбинация от експерти по бизнес и теми и разработчиците на машинно обучение с умения за решаване на големи проблеми на бизнеса.
