Feedback Loop

Контур зворотного зв'язку AI

Більшість алгоритмів ML значною мірою покладаються на петлі зворотного зв'язку для покращення своєї продуктивності. Багато досліджень у галузі ШІ показують, що нейромережеві моделі, які мають принаймні одну петлю зворотного зв'язку, працюють набагато краще, ніж ті, що її не мають. Однак дехто сперечається про етичні наслідки впровадження циклів зворотного зв'язку в інтелектуальних системах.

• Контури зворотного зв'язку машинного навчання (також відомі як машинне навчання із замкнутим циклом) зазвичай використовуються, зокрема нейронні мережі, для підвищення точності маркування.

Чим більше петель зворотного зв'язку містить нейронна мережа, тим точніший результат. Просто, якщо ми хочемо отримати сильнішу нейромережеву модель, нам просто потрібно додати більше петель зворотного зв'язку.

Петлі зворотного зв'язку нейронної мережі використовуються в моделях, які намагаються імітувати людський мозок. Цикл зворотного зв'язку дозволяє вашій моделі переглядати те, що вже відомо, щоб вона могла продовжувати вчитися на цих даних, щоб наступного разу показати кращі результати, подібно до того, як навчається студент.

Цикли зворотного зв'язку гарантують, що прогрес ШІ не зупиниться. Це також має значну перевагу: для навчання нових версій моделі використовуються дані з тієї самої поставки товару, яку клієнт зацікавлений спрогнозувати. Без них ШІ піде шляхом найменших перешкод, навіть якщо це неправильний шлях, що призведе до погіршення його продуктивності. Ви можете прискорити навчання ваших моделей і підтримувати їхній розвиток у часі, реалізувавши цикл навчання.

Темна сторона петель зворотного зв'язку

З іншого боку, зросла публічна критика відомих соціальних мереж, які використовують дані зворотного зв'язку для контролю над поведінкою своїх користувачів в Інтернеті. Щоб збільшити частоту, з якою люди користуються їхніми онлайн-платформами, інтернет-гіганти, такі як Facebook, YouTube та інші, використовують складні системи рекомендацій для вивчення інформації про поведінку користувачів в Інтернеті, такої як теми, які найчастіше шукають, найбільш переглянутий контент та історія пошуку, щоб вони могли надавати контент, який точніше відповідає вподобанням користувача. У відповідь споживачі проводитимуть більше часу на таких платформах, а компанії отримають більше уваги завдяки рекламі. Однак на цих платформах є багато екстремальних або незаконних матеріалів, таких як тероризм чи порнографія, і алгоритми рекомендацій допомагають поширювати таку інформацію швидше. Наприклад, якщо глядач переглянув один-два відеокліпи про тероризм, алгоритм запропонує більше фільмів на цю тему, щоб продовжити перегляд, таким чином створюючи цикл, в якому глядач споживає жахливі речі. Як наслідок, деякі люди бойкотують такі сайти.

Створення самохідного автомобіля - ще одна ілюстрація цього питання. Без сумніву, у цьому секторі технологій ідентифікації об'єктів дуже важливими є петлі зворотного зв'язку. Під час автономного руху транспортний засіб повинен мати можливість виявляти світлофори, дорожні знаки, людей, автомобілі та всі інші типи об'єктів, де петлі зворотного зв'язку можуть допомогти підвищити точність. Однак це ще не вся історія. Деякі автовиробники також використовують петлі зворотного зв'язку для управління компонентом прийняття рішень в автомобілі, що змушує багатьох людей чухати потилицю. У випадку кризи або автомобільної катастрофи, автоматизований автомобіль повинен був би зробити миттєвий вибір для пасажирів, які перебувають всередині, що могло б завдати шкоди пасажирам, збити пішоходів на вулиці або зруйнувати чуже майно. Зрештою, петлі зворотного зв'язку виявляються палицею з двома кінцями.

Приклади циклу позитивного зворотного зв'язку

Петлі зворотного зв'язку можна використовувати в різних дисциплінах, зокрема:

• Цикли зворотного зв'язку використовуються в розробці програмного забезпечення для виявлення можливих несправностей або помилок у коді.
• В економіці цикл - це корпорація, яка реінвестує гроші від продажів для отримання ще більшого прибутку.
• Убізнесі цикл використовується як техніка, за допомогою якої розробники продукту використовують думку споживача, щоб вплинути на майбутні дії.
• У біології цикли зворотного зв'язку допомагають організмам підтримувати рівновагу впродовж усього їхнього життєвого циклу. Контроль внутрішньої температури і загоєння є двома прикладами контурів зворотного зв'язку у людини.