Алгарытмы вакол нас, але ці можна ім давяраць кіраванне намі?

«Алгакратыя», «Урад на аснове алгарытму» або «Алгарытмічнае рэгуляванне» не з'яўляюцца дакладна акрэсленымі або зразумелымі паняццямі. Аднак мы можам падсумаваць гэта так: алгарытмы + кіраванне (законы ці нейкія правілы). У гэтым сэнсе мы можам казаць пра алгакратыю, калі нейкі тып сістэмы, заснаванай на алгарытме, няхай гэта будзе смарт-кантракт, штучны інтэлект (AI) або любы іншы, цалкам або часткова кантралюе працэсы прыняцця рашэнняў на нейкай платформе, праекце, прадпрыемстве або ўстанове.

Гэта зусім не тое ж самае, што электронны ўрад (урады, якія выкарыстоўваюць лічбавыя інструменты), і стварае ўласны набор патэнцыйных праблем. Алгарытм - гэта больш, чым простае лічбавае прыкладанне; гэта структураваны набор дакладных інструкцый, прызначаных для вырашэння складаных праблем, у той жа час маючы патэнцыял для стварэння новых. У рамане «Дэман» (2006) Даніэля Суарэса, напрыклад, мы можам убачыць, як алгарытм таемна захоплівае свет, нават забіваючы людзей, пасля смерці яго стваральніка.

Мы не дасягнулі такога антыўтапічнага ўзроўню ў нашым свеце, але, магчыма, мы будуем шлях да яго. Алгарытмы ўжо выкарыстоўваюцца асобнымі людзьмі, кампаніямі і ўрадамі для прыняцця рашэнняў. Прычым важныя рашэнні.

Алгарытмы ў дзеянні

Калі вы задаваліся пытаннем: так, крыптавалюты працуюць з алгарытмамі. Разумныя кантракты працуюць з алгарытмамі, і цэлыя крыптасеткі пабудаваны на алгарытмах. Яны выкарыстоўваюць гэтыя складаныя матэматычныя інструкцыі, каб замяніць дарагіх або недаверлівых людзей-пасрэднікаў у праверцы транзакцый. Алгарытмы таксама дапамагаюць людзям прымаць агульныя рашэнні аб іх платформах, забяспечваючы інфраструктуру для іх галасавання ( кіраванне па ланцугу у крыптасетках). Гэта толькі некалькі прыкладаў таго, што робяць алгарытмы, але гэта далёка не ўсё, што яны робяць.

У 2017 годзе паліцыя Дарема (Вялікабрытанія) прадставіла інструмент ацэнкі шкоды (HART), сістэму штучнага інтэлекту, якая прадказвае верагоднасць паўторнага правапарушэння падазраванага. Ён класіфікаваў людзей па катэгорыях рызыкі, дапамагаючы вырашыць, ці знаходзяцца яны пад вартай ці падлягаюць рэабілітацыі. Падобныя метады прагназавання паліцыі, часта заснаваныя на машынным навучанні і аналізе даных, выкарыстоўваюцца ў ЗША і Кітаі.

Разумныя гарады забяспечваюць яшчэ адно рэальнае прымяненне алгарытмічнага кіравання. Інфраструктура на базе штучнага інтэлекту, такая як інтэлектуальнае вулічнае асвятленне і аўтаматызаваныя сістэмы дарожнага руху, аптымізуе выкарыстанне рэсурсаў. Такія праекты, як футурыстычны горад «The Line» у Саудаўскай Аравіі, плануюць інтэграваць AI для актыўных паслуг. Урады таксама ўключаюць штучны інтэлект у працэс прыняцця рашэнняў, ад аўтаматызацыі падатковых праверак да выкарыстання прагнастычных мадэляў для сацыяльных паслуг. Суддзі з штучным інтэлектам, правераныя ў Кітаі і Эстоніі, могуць разглядаць дробныя судовыя спрэчкі, а прагназуючыя алгарытмы дапамагаюць у вынясенні судовых прысудаў. Адукацыя бачыць аналагічную аўтаматызацыю з такімі платформамі, як Knewton, якая карэктуе навучальныя матэрыялы на аснове паспяховасці студэнтаў.

Такія моўныя мадэлі, як ChatGPT або DeepSeek, пабудаваны на алгарытмах. Пошук Google выкарыстоўвае алгарытмы для ранжыравання вынікаў. YouTube, Netflix і Spotify выкарыстоўваюць алгарытмы, каб прапанаваць персаналізаваны кантэнт, а Amazon робіць гэта, каб наладзіць прапановы па пакупках. Алгарытмы карысныя, і мы ўжо акружаны імі.

Дыстапічныя алгарытмы

Алгарытмы павышаюць эфектыўнасць і памяншаюць удзел чалавека, але яны таксама могуць стаць антыўтопіяй. Адна з галоўных праблем - што Яўген Марозаў пад назвай «нябачны калючы дрот» — сістэма, дзе алгарытмы тонка накіроўваюць выбар, абмяжоўваючы інтэлектуальны і сацыяльны рост, не разумеючы гэтага людзьмі. Гэтыя сістэмы аналізуюць персанальныя даныя, каб прагназаваць паводзіны, падштурхоўваючы людзей да пэўных дзеянняў і адначасова абмяжоўваючы ўздзеянне альтэрнатыўных ідэй або магчымасцей.

Паколькі абмежаванні не з'яўляюцца відавочнымі, людзі мяркуюць, што дзейнічаюць свабодна, нават калі іх варыянты былі старанна адабраны нябачнымі сіламі. Гэты ціхі кантроль можа аслабіць свабоду, паменшыўшы крытычнае мысленне і ўмацаваўшы раней існуючыя звычкі замест таго, каб спрыяць самастойнаму прыняццю рашэнняў. Іншымі словамі, людзі бяздумна выконваюць прапановы алгарытму, не ведаючы, як алгарытм працуе, не ведаючы, што імі могуць маніпуляваць, але баяцца пайсці альтэрнатыўнымі шляхамі, якія могуць нашкодзіць ім.

Непразрыстасць гэтых сістэм прыняцця рашэнняў - яшчэ адна актуальная праблема. Многія алгарытмы функцыянуюць як чорныя скрыні, робячы крытычныя выбары без дакладных тлумачэнняў. Такая непразрыстасць небяспечная, асабліва калі алгарытмы навучаюцца на неаб'ектыўных дадзеных. Калі алгарытм несвядома адлюстроўвае гістарычную няроўнасць, ён можа ўвекавечыць дыскрымінацыю, прадстаўляючы свае рашэнні як аб'ектыўныя.

Напрыклад, інструменты прагназавання праваахоўных органаў падвяргаюцца крытыцы за несправядлівае нацэльванне на маргіналізаваныя супольнасці, а сістэмы крэдытаздольнасці, якія кіруюцца штучным інтэлектам, паставілі пэўныя групы ў непрапарцыйнае становішча. Калі гэтыя інструменты вызначаюць фінансавы доступ, праваахоўныя органы і занятасць, рызыкі прадузятай аўтаматызацыі становяцца значнымі.

Дрэнная гісторыя

Прыклады з рэальнага свету ілюструюць шкоду, якую могуць нанесці дрэнна распрацаваныя алгарытмы. У 2018 годзе ўрад Нідэрландаў разгарнуў алгарытмічная сістэма SyRI для выяўлення патэнцыйных ашуканцаў у галіне сацыяльнага забеспячэння, пазначаючы тысячы людзей для расследавання без дакладнага абгрунтавання. Грамадская рэакцыя прывяла да спынення сістэмы ў 2020 годзе за парушэнне правоў чалавека.

Падобным чынам у 2021 годзе ў ЗША праграмнае забеспячэнне ATLAS быў выкарыстаны для ацэнкі заявак на іміграцыю, выклікаючы крытыку за непразрыстыя і патэнцыйна дыскрымінацыйныя рашэнні, а таксама за сваю канчатковую мэту дэнатуралізаваць грамадзян. У Вялікабрытаніі алгарытм выстаўляюць студэнтам экзаменацыйныя адзнакі у 2020 годзе, аддаючы перавагу студэнтам з больш заможных школ, адначасова караючы іншых. Шырокія пратэсты прымусілі ўрад адмяніць рашэнне, прадэманстраваўшы, як бескантрольны алгарытмічны кантроль можа непасрэдна ўплываць на жыццё.

У той час як алгарытмы могуць аптымізаваць працэс прыняцця рашэнняў, іх няправільнае выкарыстанне можа замацаваць сістэмныя праблемы, абмежаваць свабоду і падарваць давер. Без празрыстасці, падсправаздачнасці і этычнага нагляду цэнтралізаваныя алгарытмы рызыкуюць стаць інструментамі кантролю, а не пашырэння магчымасцей.

Дэцэнтралізаванае правасуддзе

Пакуль, прынамсі, можна сказаць, што найбольш тыранічныя алгарытмы паходзяць з цэнтралізаванага свету. Заўсёды цэнтральная партыя (кампанія ці ўрад) кантралюе ўсё для дасягнення сваіх уласных сумніўных мэтаў або псуе рэчы з-за простай нядбайнасці. На наша шчасце, алгарытмы ўсё яшчэ можна выкарыстоўваць для атрымання свабоды і справядлівасці, асабліва калі яны дэцэнтралізаваныя. Як вы можаце здагадацца, большасць крыпта-алгарытмаў з адкрытым зыходным кодам і дэцэнтралізаванымі, даступнымі для праверкі і выкарыстання ўсім. І ў нас ужо ёсць некаторыя алгарытмічныя сістэмы дэцэнтралізаванага правасуддзя.

Ключавым элементам дэцэнтралізаванага кіравання, напрыклад, з'яўляецца дэцэнтралізаваная аўтаномная арганізацыя (DAO), якая працуе з выкарыстаннем смарт-кантрактаў - самавыканальных пагадненняў. DAO дазваляюць членам удзельнічаць у прыняцці рашэнняў шляхам галасавання, гарантуючы, што кантроль размеркаваны паміж удзельнікамі, а не цэнтральнай арганізацыяй. Гэта тып кіравання ў ланцужку, дзе правілы і рашэнні выконваюцца з дапамогай працэсаў, правераных DLT, і гэта дапамагае падтрымліваць празрыстасць і бяспеку, адначасова прадухіляючы маніпуляцыі з боку ўплывовых асоб або арганізацый.

Дэцэнтралізаванае правасуддзе накіраваны на справядлівае і эфектыўнае вырашэнне спрэчак, пазбягаючы пры гэтым рызык цэнтралізаванага кантролю. Традыцыйныя суды абапіраюцца на чалавечае меркаванне, але дэцэнтралізаваныя сістэмы правасуддзя выкарыстоўваюць крыптаэканамічныя стымулы для забеспячэння бесстароннасці. Удзельнікі атрымліваюць узнагароду за ўзгадненне з кансенсусам, які лічыцца справядлівым прыняццем рашэнняў. Гэты метад выключае залежнасць ад даверу і замест гэтага выкарыстоўвае стымулы для забеспячэння справядлівых вынікаў.

Акрамя таго, дэцэнтралізаванае правасуддзе распрацавана так, каб быць празрыстым, з правіламі і працэсамі прыняцця рашэнняў, адкрыта даступнымі ў сетцы. Гэта гарантуе прадказальнасць, паслядоўнасць і ўстойлівасць да прадузятасці або карупцыі.

Алгакратыя дзеля дабра

Прыдатная алгарытмічная сетка для стварэння больш справядлівых сістэм правасуддзя Абыце , цалкам дэцэнтралізаваная тэхналогія рэестра (DLT), якая выдаляе пасярэднікаў, такіх як майнеры і «валідатары» . Obyte таксама забяспечвае кіраванне ў ланцужку, дазваляючы супольнасці прымаць ключавыя рашэнні калектыўна з дапамогай механізмаў галасавання. Ён таксама падтрымлівае разумныя кантракты, якія аўтаматызуюць транзакцыі і пагадненні без неабходнасці цэнтральнага органа.

Акрамя таго, Obyte прапануе дагаворы з арбітражам , дазваляючы бакам удзельнічаць у пагадненнях, у якіх спрэчкі можна ўрэгуляваць з дапамогай не толькі смарт-кантрактаў, але і прафесійных чалавечых арбітраў з ArbStore . Гэтыя функцыі гарантуюць, што транзакцыі і кіраванне застаюцца празрыстымі, справядлівымі і ўстойлівымі да знешняга кантролю, умацоўваючы прынцыпы дэцэнтралізацыі як у кіраванні, так і ў правасуддзі. Гэта таксама выдатны прыклад таго, як выкарыстоўваць алгакратыю на карысць!

Рэкамендаваны вектарны відарыс by vector4stock / Фрыпік