напэўна вы ўжо бачылі навіны пра канфлікт паміж Anthropic і Пентагонам. урад ЗША ужо нейкі час выкарыстоўваў Claude, у тым ліку ў вайсковых мэтах - з дапамогай Claude планавалі і нават праводзілі (!) https://www.axios.com/2026/02/13/anthropic-claude-maduro-raid-pentagon. пасьля гэтых падзеяў Anthropic https://www.anthropic.com/news/statement-department-of-war пра жаданьне працягваць супрацоўніцтва зь Пентагонам, але пры ўмове невыкарыстаньня AI для: (1) масавага сачэньня за насельніцтвам, (2) стварэньня аўтаномнай зброі (якая прымае рашэньне без удзелу чалавека). Пентагон жа не жадае мець аніякія перашкоды з боку правайдараў AI. таму Claude ужо замяняецца на мадэлі ад OpenAI, а самім Anthropic https://www.axios.com/2026/02/27/anthropic-pentagon-supply-chain-risk-claude
падзеі ўздымаюць важнае пытаньне: "хто мусіць мець кантроль над AI". і што такое "кантроль" увогуле? у маім разуменьні кантроль складаецца з наступных узаемазьвязаных кампанентаў
першая - гэта вызначэньне, што рабіць можна, а што нельга. напрыклад, праз заканадаўчы акт. гэта кампанента пра пагадненьне, ідэю, кансэнсус. яна дае адказ на пытаньне: "хто вырашае як можна выкарыстоўваць і як належыць распрацоўваць AI".
другая - гэта тэхнічная магчымасьць уплыву на AI сістэму (напрыклад, адключыць да яе доступ). гэта кампанента ўжо ня проста пра намер, а пра дзеяньне. для гэтага неабходна мець дастатковыя веды, магчымасьці і доступ. "чыя рука знаходзіцца на рубільніку?"
і недзе побач пазьней зьявіцца трэцяя кампанента - маральныя арыентыры самога AI. бо AI будучыні - аўтаномная і разумнейшая за чалавека сістэма - у працэсе работы будзе сама вырашаць што рабіць, а што не. але на чые інтарэсы (і ў якім прыярытэце) арыентавацца - тут варыянтаў шмат: на карыстальніка, стваральніка, кампанію-ўладальніка, закон, урад, уласную мараль AI, на карысьць чалавецтва агулам ці шырэй - прыроды і планеты? "to whom to align AI to?". пры гэтым мы робім дапушчэньне, што alignment - тэхнічна магчымы
у цяперашняй сітуацыі амерыканскі ўрад прэтэндуе на першую кампаненту кантролю - яны хочуць самі вырашаць, што іх AI можа рабіць, а што ня можа. пакуль што ўрад ня мае тэхнічнай магчымасьці кантраляваць AI - гэтая кампанента кантролю належыць правайдарам (Anthropic, OpenAI, etc). але з часам баланс можа зьмяніцца. адкрытыя (open source) мадэлі працягваюць наганяць закрытыя мадэлі ад правайдараў. і пазьней, калі адкрытыя мадэлі стануць дастаткова разумнымі, урад зможа адмовіцца ад залежнасьці на AI правайдараў. ва ўрада зьявіцца другая кампанента кантролю
сітуацыя задае прэцэдэнт для ўсіх будучых дыскусіяў пра разьмеркаваньне кантролю. вельмі небясьпечна, каб нехта адзін валодаў усімі кампанентамі. калі гэта будзе ўрад, то ў яго будзе вялікая спакуса выкарыстоўваць AI для ўмацаваньня сваёй улады - і тым самым аддаляцца ад дэмакратыі. калі гэта будзе прыватная кампанія, то яна зможа ахвяраваць бясьпекай AI на карысьць максімізацыі прыбытку і перамогі над канкурэнтамі. калі дзяржава вызначае "як належыць распрацоўваць AI", то зьяўляецца магчымасьць гарантаваць, каб AI правайдары дбалі належным чынам пра бясьпеку і AI alignment; але ў той жа час урад можа выкарыстоўваць рычаг рэгуляцыяў супраць AI правайдараў, нязгодных з урадам (бо "належная бясьпека" - вельмі абстрактная рэч). хацелася б, каб у звычайных людзей таксама была нейкая доля кантролю - каб людзі ўплывалі і на ўрад, і на правайдараў, і на AI alignment. мне складана ўявіць, каб Пентагон адмовіўся ад нейкага кірунка выкарыстаньня AI пад ціскам грамадскасьці. але воля людзей можа быць выражана ў нейкім незалежным дзяржаўным кантрольным органе, які будзе сачыць у тым ліку за Пентагонам.
тэма складаная і захапляльная. калі хочаце паглыбіцца далей, то раю пачытаць або паслухаць https://open.substack.com/pub/dwarkesh/p/dow-anthropic . або паглядзець Жалезнага Чалавека 2 - там таксама падымаецца тэма кантролю над тэхналогіямі 🙂
![Український Арт Дайджест від [esthète] Газети Profile](/_next/image?url=https%3A%2F%2Fcdn.tgdio.com%2Fchannels%2F2025%2F10%2FcalendART.webp&w=256&q=75)
