Штучний інтелект у державному секторі: які зміни він може принести

Держави активно використовують штучний інтелект для боротьби з пандемією коронавірусу. Проте такі дії можуть ставити під загрозу безпеку даних та приватність людей. Тож з якими дилемами стикаються держави, використовуючи цю технологію? Чи готові уряди до впровадження штучного інтелекту у державному секторі? Та чи зможуть держави забезпечити приватність та безпеку даних своїх громадян, коли вірус закінчиться?

Про перспективи й загрози використання штучного інтелекту у державному секторі у доповіді Андрія Бережанського, експерта з цифрових технологій Аналітичного центру УКУ на міжнародній конференції “Information Overload, AI, and Responsibility”. Цензор.Нет ділиться основними думками.

Нещодавно Європейська комісія опублікувала “Білу книгу”, де описаний підхід ЄС до штучного інтелекту (ШІ). У цьому документі Комісія, зокрема, подає визначення, що ШІ – це “сукупність технологій, що об’єднують дані, алгоритми та обчислювальні потужності”. З цього випливає, що коли говоримо про ШІ у державному секторі, то через, власне, компонент “даних”, ми так чи інакше обговорюємо певну форму державного нагляду за громадянами.

Жартують, що коли уряди хочуть розв’язати одну проблему – в підсумку вони створюють дві. Уявіть собі лише, на що тоді будуть здатні уряди з потужністю Штучного інтелекту. А значить, питання ШІ в державній системі – непросте.

Будучи залежними від величезної кількості даних, держави мають збирати та обробляти ці дані коректно. Але для багатьох країн, в тому числі і для України, це не так просто. Наш недавній скандал із цифровим переписом населення є ілюстративним прикладом цієї проблеми. Але підвищити якість зібраних даних можна з часом. Інше питання – чи нам потрібно це робити.

Хотів би зосередитися на двох площинах застосування ШІ у державному секторі: інфраструктурі та практиках “держави загального добробуту” (welfare state).

Обговорювати інфраструктурну площину доволі просто. Держава уже довгий час відповідає за функціонування доріг, поштових служб, зв’язку, інше. Таку логістику суттєво покращить використання даних. Як і будь-яку логістику. Тому, чим ґрунтовніші розрахунки здійснюватимуть уряди щодо, скажімо, автокерованих транспортних засобів чи регулювання доставляння безпілотниками, тим краще.

Не так легко розібратись з площиною “держава загального добробуту”.

Сьогодні ряд країн застосовують ШІ у правоохоронних органах для прогнозування злочинів та розпізнавання облич підозрюваних на вулиці. В судах, щоб з’ясувати, чи варто людині перебувати у в’язниці на час розслідування, чи вона може бути вільною. Також деякі країни користуються ШІ аби моніторити отримувачів соціальних виплат. Припускаю, що всі вже чули про сучасну систему соціального кредитування у Китаї (Social Credit System). Проте ще пів століття тому, Мішель Фуко зауважив на цю тему, що уряд набагато більше контролює бідних людей, ніж багатих. Але тут не так все просто. Адже соціальні виплати стягуються з наших податків. І ми, як громадяни, хотіли б, щоб ці гроші були справедливо розподілені та проконтрольовані. Отже, ми повинні стежити за тим, хто їх отримує і чи немає зловживань. Цю схему нещодавно почали застосовувати у п’яти районах Лондона за допомогою Великих даних. І цю ж схему в Нідерландах заборонили, як порушення прав людини.

Уявімо ситуацію, що ми живемо у Львові, і я їду до Києва на вихідні. Ви, як мій добрий приятель, попросите придбати для вас наручний годинник обмеженого випуску, скажімо, від збірної України з футболу. Він продається лише у їхньому фірмовому магазині. Ви перераховуєте гроші на мою банківську картку, я розраховуюсь цією карткою у магазині і привожу вам годинник. Нічого надзвичайного.

А тепер уявіть, що я отримую соціальну допомогу. Що у цій ситуації бачить уряд? Що я отримав від когось, допустимо, 30 000 гривень і вирішив витратити їх у сувенірному магазині. Ця операція може бути повсякденною справою двох матеріально забезпечених друзів і, одночасно, значною морокою для людей з обмеженими коштами. Що важливо, цієї проблеми можна уникнути, і бідним, і багатим – якщо користуватись готівкою. Тому якщо наше суспільство стає все більш безготівковим, ми повинні обговорювати, наскільки суворий моніторинг має бути щодо тих, хто просить пільг і наважується витрачати ці кошти на речі, які ми не хочемо аби у них були.

Якщо дивитись з перспективи політичних правих, можна сказати, що коли комусь хочеться придбати дещо розкішне, то варто спочатку хоча б декілька разів сходити на роботу. А якщо запитати особу з лівого кінця спектру, вона відповість, що багатство й бідність – це не просто чийсь вибір чи лінощі, це середовище, в якому людина народилась і яке їй дало ті чи інші освітні можливості й контакти.

Для заможних подібною задачею може бути приклад з інфраструктури. Уявіть, що камери швидкості на дорогах замінили на GPS-датчики у кожному автомобілі. І от ви їдете по ідеальному “розумному місті” в якому світлофори контролюються за допомогою ШІ. Якщо ваш автомобіль рушить на червоне світло – вас автоматично штрафують, якщо ви зупинилися в забороненому місці – ще один штраф. Їхали повільно на магістралі? Будь ласка, – наступний штраф.

Тому ми не повинні обговорювати застосування урядом ШІ виключно в категоріях “добре” чи “погано”, змінить він усе, чи нічого. Переконаний, що ми, як суспільство, маємо вирішувати, яку модель хочемо вибрати: державу спостереження, де поганих людей негайно карають, але й хороші під контролем, чи таку, де погані можуть приховати свої злодіяння, але добрі можуть бути впевнені, що їх смартфон не доносить на них в режимі очікування.

Панельна дискусія "Штучний інтелект: формування меж допустимого". Львів, лютий 2019 р

Все ж, хотів би закінчити на позитивній ноті і поділитися прикладом з Мексики, де систему штучного інтелекту застосовують для обробки та направлення листів громадян до потрібної посадової особи. Уявіть скільки можна зекономити на таких операціях. А ще один цікавий випадок зі Швеції. Там штучний інтелект використовують, щоб змоделювати як певні зміни до державних політик вплинуть на пенсійну систему. Отож, ШІ може бути корисним інструментом для моделювання політик. Його застосування може спростити роботу над тестуванням урядових ініціатив, допомогти як і чиновникам, котрі відповідають за державні програми, так і громадянам, чиї доходи ці програми фінансують.

Але зворотня ситуація, коли чиновники і їх системи можуть спостерігати за кожним громадянином заради блага громадськості – це уже не так просто, і це тема для подальших численних дискусій.

Джерело: Цензор.Нет

Меню

Штучний інтелект у державному секторі: які зміни він може принести

Держави активно використовують штучний інтелект для боротьби з пандемією коронавірусу. Проте такі дії можуть ставити під загрозу безпеку даних та приватність людей. Тож з якими дилемами стикаються держави, використовуючи цю технологію? Чи готові уряди до впровадження штучного інтелекту у державному секторі? Та чи зможуть держави забезпечити приватність та безпеку даних своїх громадян, коли вірус закінчиться?

Про перспективи й загрози використання штучного інтелекту у державному секторі у доповіді Андрія Бережанського, експерта з цифрових технологій Аналітичного центру УКУ на міжнародній конференції “Information Overload, AI, and Responsibility”. Цензор.Нет ділиться основними думками.

Нещодавно Європейська комісія опублікувала “Білу книгу”, де описаний підхід ЄС до штучного інтелекту (ШІ). У цьому документі Комісія, зокрема, подає визначення, що ШІ – це “сукупність технологій, що об’єднують дані, алгоритми та обчислювальні потужності”. З цього випливає, що коли говоримо про ШІ у державному секторі, то через, власне, компонент “даних”, ми так чи інакше обговорюємо певну форму державного нагляду за громадянами.

Жартують, що коли уряди хочуть розв’язати одну проблему – в підсумку вони створюють дві. Уявіть собі лише, на що тоді будуть здатні уряди з потужністю Штучного інтелекту. А значить, питання ШІ в державній системі – непросте.

Будучи залежними від величезної кількості даних, держави мають збирати та обробляти ці дані коректно. Але для багатьох країн, в тому числі і для України, це не так просто. Наш недавній скандал із цифровим переписом населення є ілюстративним прикладом цієї проблеми. Але підвищити якість зібраних даних можна з часом. Інше питання – чи нам потрібно це робити.

Хотів би зосередитися на двох площинах застосування ШІ у державному секторі: інфраструктурі та практиках “держави загального добробуту” (welfare state).

Обговорювати інфраструктурну площину доволі просто. Держава уже довгий час відповідає за функціонування доріг, поштових служб, зв’язку, інше. Таку логістику суттєво покращить використання даних. Як і будь-яку логістику. Тому, чим ґрунтовніші розрахунки здійснюватимуть уряди щодо, скажімо, автокерованих транспортних засобів чи регулювання доставляння безпілотниками, тим краще.

Не так легко розібратись з площиною “держава загального добробуту”.

Сьогодні ряд країн застосовують ШІ у правоохоронних органах для прогнозування злочинів та розпізнавання облич підозрюваних на вулиці. В судах, щоб з’ясувати, чи варто людині перебувати у в’язниці на час розслідування, чи вона може бути вільною. Також деякі країни користуються ШІ аби моніторити отримувачів соціальних виплат. Припускаю, що всі вже чули про сучасну систему соціального кредитування у Китаї (Social Credit System). Проте ще пів століття тому, Мішель Фуко зауважив на цю тему, що уряд набагато більше контролює бідних людей, ніж багатих. Але тут не так все просто. Адже соціальні виплати стягуються з наших податків. І ми, як громадяни, хотіли б, щоб ці гроші були справедливо розподілені та проконтрольовані. Отже, ми повинні стежити за тим, хто їх отримує і чи немає зловживань. Цю схему нещодавно почали застосовувати у п’яти районах Лондона за допомогою Великих даних. І цю ж схему в Нідерландах заборонили, як порушення прав людини.

Уявімо ситуацію, що ми живемо у Львові, і я їду до Києва на вихідні. Ви, як мій добрий приятель, попросите придбати для вас наручний годинник обмеженого випуску, скажімо, від збірної України з футболу. Він продається лише у їхньому фірмовому магазині. Ви перераховуєте гроші на мою банківську картку, я розраховуюсь цією карткою у магазині і привожу вам годинник. Нічого надзвичайного.

А тепер уявіть, що я отримую соціальну допомогу. Що у цій ситуації бачить уряд? Що я отримав від когось, допустимо, 30 000 гривень і вирішив витратити їх у сувенірному магазині. Ця операція може бути повсякденною справою двох матеріально забезпечених друзів і, одночасно, значною морокою для людей з обмеженими коштами. Що важливо, цієї проблеми можна уникнути, і бідним, і багатим – якщо користуватись готівкою. Тому якщо наше суспільство стає все більш безготівковим, ми повинні обговорювати, наскільки суворий моніторинг має бути щодо тих, хто просить пільг і наважується витрачати ці кошти на речі, які ми не хочемо аби у них були.

Якщо дивитись з перспективи політичних правих, можна сказати, що коли комусь хочеться придбати дещо розкішне, то варто спочатку хоча б декілька разів сходити на роботу. А якщо запитати особу з лівого кінця спектру, вона відповість, що багатство й бідність – це не просто чийсь вибір чи лінощі, це середовище, в якому людина народилась і яке їй дало ті чи інші освітні можливості й контакти.

Для заможних подібною задачею може бути приклад з інфраструктури. Уявіть, що камери швидкості на дорогах замінили на GPS-датчики у кожному автомобілі. І от ви їдете по ідеальному “розумному місті” в якому світлофори контролюються за допомогою ШІ. Якщо ваш автомобіль рушить на червоне світло – вас автоматично штрафують, якщо ви зупинилися в забороненому місці – ще один штраф. Їхали повільно на магістралі? Будь ласка, – наступний штраф.

Тому ми не повинні обговорювати застосування урядом ШІ виключно в категоріях “добре” чи “погано”, змінить він усе, чи нічого. Переконаний, що ми, як суспільство, маємо вирішувати, яку модель хочемо вибрати: державу спостереження, де поганих людей негайно карають, але й хороші під контролем, чи таку, де погані можуть приховати свої злодіяння, але добрі можуть бути впевнені, що їх смартфон не доносить на них в режимі очікування.

Панельна дискусія "Штучний інтелект: формування меж допустимого". Львів, лютий 2019 р

Все ж, хотів би закінчити на позитивній ноті і поділитися прикладом з Мексики, де систему штучного інтелекту застосовують для обробки та направлення листів громадян до потрібної посадової особи. Уявіть скільки можна зекономити на таких операціях. А ще один цікавий випадок зі Швеції. Там штучний інтелект використовують, щоб змоделювати як певні зміни до державних політик вплинуть на пенсійну систему. Отож, ШІ може бути корисним інструментом для моделювання політик. Його застосування може спростити роботу над тестуванням урядових ініціатив, допомогти як і чиновникам, котрі відповідають за державні програми, так і громадянам, чиї доходи ці програми фінансують.

Але зворотня ситуація, коли чиновники і їх системи можуть спостерігати за кожним громадянином заради блага громадськості – це уже не так просто, і це тема для подальших численних дискусій.

Джерело: Цензор.Нет