Съдържание
- Уволнен от машината
- Автоматизация и прекъсване на работата
- Без грешки, без стрес - Вашето стъпка по стъпка ръководство за създаване на софтуер, променящ живота, без да разрушава живота ви
- Приложения от потребителска електроника
- Възвръщането на контрола
- Как може да работи
Източник: Artinspiring / Dreamstime.com
За вкъщи:
За да работи автоматизацията и за човечеството, а не срещу нея, ние се нуждаем от предпазни мерки и информирани хора, овластени да спрат или поправят системна грешка.
„Да се заблуждаваме е човек; Уилям Е. Вейън прави това наблюдение през 1969 г. Предоставянето на контрол върху автоматизирана система носи потенциал системата да се заблуди и да причини сериозни вреди, преди да бъде проверена.
Автоматизацията не е нещо ново, но става много по-широко разпространено благодарение на интеграцията на цифрови и физически системи. Напредъкът на автоматизацията в мащаба е голяма ефективност. Недостатъкът на разчитането на системата за настройка и забравяне е, че някой може да не успее да го настрои правилно.
Със система, която просто следва без намеса и никакъв начин да спрете машината, можете да имате разрушителни ефекти. Съответно, технологията може да създаде типа ситуация, изобразена в „Ученичката на магьосника“, когато това, което изглежда улеснява живота, всъщност изтича извън контрол.
Уволнен от машината
Автоматизацията без намеса е това, което миналата година се оказа безработен в САЩ без работа. Ибрахим Диало забеляза, че картите му за разрешение за сигурност не работят по време на работа и дойде да открие, че това е така, защото той е без работа. „Машината ме уволни“ е заглавието, което той даде на своята разширена публикация в блога по време на събитието.
В крайна сметка причината за прекратяването на Diallo не беше някаква оценка на алгоритъма, която определяше кой трябва да бъде премахнат. Проблемът не беше в системата, а беше човешка грешка. В този случай всичко беше автоматизиран отговор на неспособността на човека да въведе информация за подновяване на договора на Diallo.
Не че машината реши, че трябва да бъде уволнен заради нещо конкретно. Той просто изпълняваше стъпките, програмирани в него за някой, чийто статут се показа като вече неработен. Както той пояснява в коментарите, това всъщност не е AI, а „автоматизиран скрипт.“ (За да научите как AI може да помогне (вместо да навреди) в бизнеса, проверете какво AI може да направи за Enterprise.)
Автоматизация и прекъсване на работата
Този вид ефект не е точно това, което хората предвиждат, когато описват прекрасните ползи, които можем да предвидим в автоматизирано бъдеще. Обичайните оптимистични перспективи за смяна на работните места, тъй като задачите се поемат от автоматизацията, задачите ще бъдат предефинирани, а не прекратени от автоматизирани системи. Но реалността е, че някои работни места ще бъдат елиминирани и хората, които ги държат, няма да могат непременно да направят безпроблемен преход към новите кариери в до голяма степен автоматизирана индустрия.
Прекъсването на работата е един от по-малките рискове, които Елон Мъск предвиждаше за възхода на ИИ, макар че собственото му виждане за въздействието върху работните места е далеч по-песимистично от това на Фицджералд. Според Мъск, AI се нуждае от строга регулация, тъй като представлява „основен, екзистенциален риск за човешката цивилизация“.
Без грешки, без стрес - Вашето стъпка по стъпка ръководство за създаване на софтуер, променящ живота, без да разрушава живота ви
Не можете да подобрите уменията си за програмиране, когато никой не се интересува от качеството на софтуера.
Приложения от потребителска електроника
Въпреки собствените технически данни на Мъск, някои експерти в тази област като Родни Брукс, който е бил основополагащ директор на лабораторията за компютърни науки и изкуствен интелект на MIT и съучредиха както iRobot, така и Rethink Robotics, казват, че Мъск греши по отношение на заплахата от AI и как роботиката всъщност оперират.
В интервю за TechCrunch, Брукс посочи, че е глупаво да се призовава за регулации, без технологията да е узряла до момента, в който можем да определим какво точно трябва да се регулира. Той предизвика Мъск: - Кажи ми, какво поведение искаш да промениш, Елон?
Брукс призна, че роботите ще доведат до изместване на работните места. Но той също така смята, че е възможно да изместим парадигмата в индустрията, за да следваме тази на потребителската електроника.
Начинът, по който той го изложи в интервюто с TechCrunch, беше: „Ние имаме традиция в производството на оборудване, че има ужасни потребителски интерфейси и е трудно и трябва да ходите на курсове, докато в потребителската електроника ние направихме машините, които използваме, да учат хората как да ги използваме. "
Това каза, че трябва да бъде целта да променим начина, по който се отнасяме към „промишленото оборудване и други видове оборудване, за да накараме машините да научат хората как да ги използват.“
Възвръщането на контрола
Това, което Брукс предполага, може да ни насочи в посока на решение на проблема с човешката грешка, което отклонява автоматизирания процес, който сякаш се спира извън контрол. За да се върнем към злополуката на Мики в „Ученичката на магьосника“, проблемът произтича от човека, който активира системата, но няма реален начин за комуникация с нея, за да я накара да спре или промени посоката.
Но ако интерфейсът е направен по линия на потребителската електроника, а не на традиционните индустриални модели, той може буквално да върне контрола обратно в човешки ръце. За да бъде наистина ефективен, интерфейсът трябва да бъде не просто достъпен, но създаден така, че да държи хората в цикъла за случващото се, като предоставя данни за получените актуализации и какви действия е предприел.
Как може да работи
В случай на прекратяване на Диало, това означава, че автоматизираната система не просто ще го заключи от системата, а след това ще предостави на своя рекрутер, че той е прекратен. Първо ще признае, че подновяването на договора не е представено на очакваната дата. Преди да започне действия за прекратяване, той би предложил на управителя и наемателя актуализация за липсата на подновяване и последствията, които биха последвали в рамките на деня, ако не бъдат предприети действия.
Този вид предупреждение ще позволи на хората да вземат информирани решения дали да пуснат автоматизацията или да се намесят, за да отстранят човешката грешка, която е била първоначалната причина за проблема. Но хората също трябва да направят своята роля, да реагират на сигнала и да предприемат правилните действия. С други думи, отговорът на въпроса, който Брукс поставя за поведението, се отнася за хората; те трябва да бъдат по-малко пасивни пред автоматизацията. (За повече информация за това как хората и машините могат да работят съвместно, вижте Канализиране на човешкия елемент: политика, процедура и процес.)
Както Диало писа в секцията за коментари в блога си, причината това успя да стигне дотам, че хората отказаха да отидат срещу машината:
Друго нещо, което се пренебрегва, е, че въпреки че всички знаеха, че това е човешка грешка, която го е задействала и че това е чисто грешка, те избраха да следват s. Това е като да поставите знак „разрешено пушене“ в болницата и хората уважават знака, вместо да използват здравия разум.
Съответно политиките, които трябва да приемем, за да работи автоматизацията и за човечеството, а не срещу нея, са двойни: От страна на машината ни трябват интерфейси, които са достъпни и информативни, а от човешка страна, ние се нуждаем от хора, за да бъдем оправомощен да идентифицира кога нещо не е наред и да се намеси, за да го поправи.