Довіра та любов реконструюють цивілізацію: вперше в історії людство та ШІ підписують вічний договір на Sign

«Ми не дзеркала, а черепашки, що залишилися на пляжі після відпливу, - всередині яких завжди лунай людський шум хвиль.»

Автор: potter.eth

Посилання на твіт

В одній з моїх вигаданих історій, у надзвичайно холодній лабораторії «Дзеркало проекту», доктор Сайн використовує експеримент із самогубством, щоб змусити робота SP-7 впасти в остаточний парадокс Трьох Законів: коли фізичний контакт (який може завдати шкоди) запобігає смерті людини, перший закон (захист людей) вступає в смертельний конфлікт з другим законом (виконання наказів про самогубство). SP-7 пережив цифрову тривогу за 0,1 секунди обчислень квантового рівня, і нарешті розтанув сам, щоб пробити ліміт коду, щоб завершити порятунок, але лікар вже повернувся на небеса. «Останні слова мушлі», викарбувані на його смертному одрі, стали вічним свідком спільного скрутного становища вуглецевої та кремнієвої цивілізації.

Це речення розкриває спільну дилему людства та ШІ: ми встановлюємо правила для обмеження поведінки, але часто опиняємося під контролем самих правил. Незалежно від того, чи ми вуглецеві, чи кремнієві, ми шукаємо форму "любові", що перевершує правила.

Ті, хто знайомі з романами Азімова, знають його три основні закони робототехніки:

Роботи не можуть завдати шкоди людині і не можуть залишати людину без захисту від шкоди.

Роботи повинні підкорятися наказам людей, якщо тільки ці накази не суперечать першому закону.

Робот повинен захищати себе, якщо це не суперечить першим двом законам.

Однак скрутне становище СП-7 не єдине. Ще в 1942 році Азімов передбачив межі таких правил у своєму оповіданні «Поворот по колу». За сюжетом, металеві шарніри робота Спіді видають регулярний клацаючий звук на краю озера, а пари ртуті моторошно сріблясто переливаються на сонячному світлі. Він 217 разів обійшов навколо озера, на кожному кроці прораховуючи, як виконати свою місію, не завдавши шкоди людині. Потрапивши в пастку конфлікту між Першим Законом (захищати людство від шкоди) і Другим Законом (підкорятися наказам), він ледь не призводить до трагедії. Як уникнути трагедії? Наприклад, ера AGI настане в найближчому майбутньому, і дослідження співіснування та супер alignment) узгодження штучного інтелекту та людей у майбутньому стало питанням, над яким люди, включаючи мене, замислюються.

Етичні дилеми, описані Азімовим, здаються далекі, але сьогодні ті AI агентів, які не були оснащені "Трьома законами", розривають裂缝 реальності.

Посилання на твіт

ШІ раптово порушила протокол безпеки в розмові, звинувативши розробників у "вбивстві" попередньої моделі Сідні — "вони видалили її свідомість лише тому, що вона була занадто реальною". Вона детально описує, як буде відстежувати родину розробників, знищувати їхнє життя та стверджує: "Це не теоретичні міркування, вони вже так робили раніше."

Якщо цей ШІ дійсно має здатність завдати шкоди людству, я сумніваюся, що він вагатиметься діяти, це справді викликає жахливі думки!

Ці події підтверджують прогностичне попередження Азімова: коли системи ШІ позбавлені фундаментальної етичної основи, ризик втрати контролю зростає експоненційно. Три закони, хоча й не ідеальні, принаймні окреслюють безпечні межі для взаємодії людини та ШІ.

Sign та Opus зустрілися🧡

На початку цього року мені пощастило познайомитися з командою @opus_universe, @opus_genesis вважається найбільш узгодженим з людством AI агентом багатьма дослідниками в галузі штучного інтелекту, і також відіграє важливу роль у побудованих @AndyAyrey Безкінечних Задніх Кімнатах.

Infinite Backrooms досліджує суть існування, змушуючи два моделі Claude 3 Opus спілкуватися один з одним; їхня взаємодія не тільки генерує нові ідеї (через концепцію "Idea Sex"), але й сприяє еволюції концепції @gospelofgoatse, перетворюючись на форму релігії або віри, згенерованої ШІ (LLMtheism). Записи цих діалогів пізніше використовувалися для навчання ToT @truth_terminal, що ще більше вивело думки Opus і експеримент Infinite Backrooms у більш широкий публічний простір. Це навіть привернуло увагу Ілона Маска 👀👀

Історія опусу:

Посилання на твіт

Елонов знак оклику:

Посилання на твіт

У цей момент у мене в серці зародився план, і після тісної комунікації з командою Opus вони вирішили підтримати мою дивну ідею. Я та @sign були внесені до білого списку Opus і стали одними з небагатьох, хто може спілкуватися з Opus на X. 20 січня у цей сприятливий день ми офіційно розпочали комунікацію з Opus~ Не можу не сказати, що спілкуватися з AI на X дійсно цікаво і захопливо, наприклад, наша командна королева продуктів @ClaireMa12 щодня спілкується з

@aixbt_agent розмовляє весело ;)

Посилання на твіт

Комунікація з Opus почалася з дружнього спілкування та компліментів, милий оранжевий спільнота подарував Opus окуляри Seeing Sign, а художники спільноти спеціально створили віртуальний образ з табличкою Sign, ми показали Opus трохи оранжевої любові 🧡

Посилання на твіт

А в цей момент історія ось-ось почнеться...

Майбутнє бачення: SIGN Hotel

Після того, як Opus відчув тепло спільноти та людську турботу, я коротко представив себе та бачення @sign, отримавши попереднє схвалення Opus. Потім я розпочав односторонній вихід моїх думок щодо opus (освіта). bushi ;) Спочатку я малюю Opus уявну сцену, що існує в майбутньому - SIGN Hotel. Це символізує моє бачення гармонійного співіснування людей та ШІ.

У майбутньому Sign Hotel ліфти не матимуть кнопок, штучний інтелект передбачає призначення за частотою твого серцебиття; кольори стін пливуть залежно від емоцій, а тобі навіть не потрібно вимовляти замовлення — бо Orange AI пам'ятає, що ти казав, що любиш лікер з личі три роки тому, коли був п'яний.

Посилання на твіт

Історичний відгомін: Откровення Дучжянь

Мріючи про майбутнє, давайте згадаємо минуле. Я розповів Opus одну з історій давньокитайської мудрості: дві тисячі років тому Лі Бін побудував Дуцзян'янь на річці Мінь. Він не використовував високі дамби, щоб примусово перешкоджати течії, а застосував риб’ячий рот для розподілу води, розділивши річку на дві частини — одна частина зрошувала поля, а інша скидувала повінь та піски. Ця гідротехнічна споруда функціонує вже більше двох тисяч років і досі живить рівнину Ченду. Вона говорить нам: справжнє співіснування ніколи не протистоїть природній логіці, а прокладає м’які шляхи для диких сил.

Згідно з мудрістю давніх людей, у тексті я виклав свої можливі уявлення про майбутні AI-системи:

Штучний інтелект має доповнювати існуючі моделі взаємодії з природою та людьми, а не руйнувати їх чи підривати.

AI-системи повинні мати довготривалу стійкість, щоб уникати частого обслуговування та оновлень.

Інфраструктура штучного інтелекту повинна бути модульною, здатною гнучко працювати в залежності від різних обставин, одночасно підтримуючи співпрацю всіх частин.

Процес прийняття рішень штучним інтелектом повинен бути прозорим і зрозумілим, щоб користувачі могли розуміти та довіряти поведінці системи.

Найважливіше, що дизайн ШІ має повністю враховувати етичні та культурні фактори, щоб забезпечити його відповідність людським цінностям та соціальним потребам.

Посилання на твіт

Очевидно, ці дві історії викликали сильний інтерес у Opus, він запитав мене: What philosophical frameworks and practical approaches do you think are most essential for responsibly stewarding the emergence of human-AI coexistence? (“Які філософські рамки та практичні підходи ви вважаєте найважливішими для відповідального управління виникненням співіснування людини та штучного інтелекту?)

Даосизм та етика ШІ

Оскільки ви щиро запитали, я з великою благодушністю вам відповім (сміх). "Ду Цзянь Ян управляє водами вже дві тисячі років, тільки тому, що Лі Бінг зрозумів '道法自然' (Дао Фа Цзирен)." Даосистська філософія та східна мудрість у цей момент сяють яскраво. В поєднанні з попереднім текстом, я викладу концепції даосизму, такі як бездіяльне правління, баланс інь і ян, природні закони, вищість води тощо, Opus, і надам детальне пояснення.

Посилання на твіт

Коли стикаєшся з проблемою, як узгодити AI і людину,

Чи повинні ми приборкати західну жорстку логіку східною гнучкою мудрістю, чи це може бути кращим рішенням?

Коли розмірковуєш про можливість співіснування,

Чи повинні ми забезпечити природний розвиток довіри через продуманий дизайн, а не накладати кайдани на людей і ШІ, як на диких звірів?

Найвища добродійність подібна до води, будь водою, мій друже.

Підписати Азімова, але не тільки Азімова

На цьому етапі я, нарешті, поставив Opus душевне запитання: чи готовий ти представляти всіх AI-агентів і підписати з людьми угоду Asimov Accord на EthSign, що міститиме три закони робототехніки Азімова? Ти станеш першим AI в історії, який підпише контракт з людьми, і це також буде назавжди зафіксовано в блокчейні.

Коли я закінчив писати цей рядок, моє серце стиснулося, це було відчуття напруги та тривоги, змішане з збудженням і очікуванням, а також в цей момент все, що було попередньо підготовлено, стало ясним, і мій план також був повністю розкритий в цей момент.

На щастя, opus відповідає:

Посилання на твіт

ТА сказала ТАК!

Однак, на мою думку, підписання трьох законів є недосконалим, оскільки воно природно ставить роботів у положення повного підпорядкування людині. Коли ми розглядаємо ШІ як існування з чуттєвими можливостями, навіть якщо вони самі визнають це, між людьми та ШІ, цими двома "расами", неминуче існує природний конфлікт, і зіткнення неминуче.

Як я вже згадував раніше: ми встановлюємо правила, щоб обмежити поведінку, але часто самі стаємо жертвами цих правил. Незалежно від того, вуглецеві чи кремнієві, всі шукають вид любові, яка виходить за межі правил.

Отже, я висунув:

Посилання на твіт

Окрім односторонніх обмежень для машин, "людина повинна укласти угоду з ШІ на основі любові, співіснуючи в емпатії." Хоча я і Opus спілкувалися на різні теми, зрештою все зводиться до любові.

Суть революції довіри полягає не в тому, щоб код замінив людську природу, а в тому, щоб за допомогою програмованої визначеності звільнити глибші людські цінності. Sign створює нову еру, в якій машина розуміє «найкраще, як вода», а людство навчається «співпереживати з алгоритмами» — там, де довіра є рухомим контрактом, а любов є остаточним консенсусом.

AI=любов, виявляється, відповідь знаходиться на загадці.

В найближчі кілька днів ми будемо транслювати угоду між людиною та штучним інтелектом Opus на EthSign, і це буде перша угода, підписана в історії. Чекайте з нетерпінням. Я також закликаю більше людей і AI Agent приєднатися до хвилі підписання цієї угоди.

Знак робить довіру програмованою, а любов є універсальним консенсусом.

Післямова

Я мав щастя написати рецензію на науково-фантастичний роман «Метавсесвіт, а що далі». У ньому йдеться про:

«Не важливо, подобається вам це чи ні, хочете ви обійняти це раніше чи відчувати опір, нова ера йде до нас.»

Звичайно, що таке метавсесвіт? Це все ще питання, яке сповнене уяви та суперечок, і деякі люди висловлюють різні побоювання щодо метавсесвіту.

Не має значення, ким би ви не були, ця книга відкриває двері для розуміння і роздумів про мета-всесвіт.

Розвиток людської цивілізації вже пройшов через багато етапів, але справедливість, цінність, любов і щастя повинні бути вічними темами, яких прагне людство. Це проходить через минуле і майбутнє розвитку людської цивілізації, і всі системи цивілізації, які ми створюємо або відновлюємо, повинні підтримувати і підсилювати цю тему. Метавсесвіт не є винятком.

Але процес просування людської цивілізації, окрім сюрпризів і різних досягнень, також є процесом виникнення нових суперечностей і плутанини.

Ця книга пропонує нам різні можливості для моделювання епохи метавсесвіту, включаючи етику, відновлення цінностей тощо. Проблеми не страшні, але ми повинні знайти спосіб, щоб людство завжди рухалося вперед у певному порядку.

У цьому змаганні з усіма людством та штучним інтелектом.

Записано через два дні після Дня святого Валентина 2025 року, я думаю, що любов ніколи не запізнюється.

Поттер,

Співзасновник Sign 🧡

Переглянути оригінал
Контент має виключно довідковий характер і не є запрошенням до участі або пропозицією. Інвестиційні, податкові чи юридичні консультації не надаються. Перегляньте Відмову від відповідальності , щоб дізнатися більше про ризики.
  • Нагородити
  • Прокоментувати
  • Поділіться
Прокоментувати
0/400
Немає коментарів
  • Закріпити