Generative AI ChatGPT проти цих безкінечних типів мавп, жодного конкурсу не говорити про етику штучного інтелекту та закон про штучний інтелект

Ці несамовиті мавпи.

Існує досить відомий уявний експеримент, про який ви, можливо, чули за участю мавп. Цією цілком інтригуючою технікою часто користуються ті, хто хоче висловити особливу точність.

Ось як виглядає сюжет.

Уявіть, що мавпа друкує на друкарській машинці. Якщо мавпа продовжує друкувати протягом нескінченної кількості часу, і якщо припустити, що мавпа набирає ключі виключно випадково, є ймовірність того, що всі твори Шекспіра неминуче будуть надруковані.

Здавалося б, суть полягає в тому, що лише завдяки випадковості інколи можливо отримати зрозумілу відповідь. Ми всі схильні погоджуватися з тим, що твори Шекспіра — це надзвичайна вистава зрозумілого письма та міркувань. Таким чином, будь-що або будь-який спосіб створення цінних слів Шекспіра здавався б неймовірно вражаючим, хоча, в той же час, ми були б різко розчаровані, що це було не завдяки інтелекту як такому, а натомість просто випадковій удачі.

Зараз дехто намагається порівняти цю мавпячу метафору з останньою розробкою штучного інтелекту (ШІ).

Ви, мабуть, знаєте, що найпопулярнішою формою штучного інтелекту в наші дні є генеративний штучний інтелект, прикладом якого є широко популярна програма штучного інтелекту, відома як ChatGPT від OpenAI. За мить я поясню більше про генеративний ШІ та ChatGPT. Наразі просто знайте, що це програма штучного інтелекту для перетворення тексту в текст або тексту в есе, яка може створити для вас есе на основі введеної підказки за вашим вибором.

Стверджуваний зв’язок із легендарною мавпою-друкаркою полягає в тому, що нібито вражаючі есе, створені генеративним штучним інтелектом, які, здається, абсолютно вільно володіють, не більш вражаючі, ніж досягнення примата-друкаря. Якщо ви приймаєте передумову, що мавпа, яка випадково друкує, може створити твори Шекспіра, і якщо ви готові визнати, що ChatGPT та інший генеративний ШІ нібито однакові, ви повинні зробити висновок, що генеративний ШІ взагалі не вартий особливої уваги. Це просто випадковість, яка обманює нас.

Що ж, це може здатися переконливим випадком, але нам потрібно його розпакувати. Уважне розпакування продемонструє, що порівняння між ними є оманливим і явно неправильним.

Припиніть порівнювати. Для тих, хто наполягає на продовженні порівняння, будь ласка, будь ласка, робіть це принаймні обережно та високо.

Ті, хто просто метаються в порівнянні, роблять погану послугу генеративному ШІ. І більш важливе занепокоєння полягає в тому, що це вводить в оману широку громадськість і суспільство в цілому. Я вважаю, що ми також можемо додати, що вони також роблять ведмежу послугу працьовитим мавпам або, можливо, підривають цінність теореми мавп про безкінечне друкування. Бути чесним. Бути добрим. Будь правдивим.

Перш ніж ми детально зануримося в це, є інсайдерський жарт, який використовує поняття мавпи, що друкує. Може вам сподобається.

Частка цинічного гумору часто простежується в особистому листуванні під час початкового розквіту Інтернету. Це сталося тоді, коли Інтернет перестав бути похмурою серйозною онлайн-сферою та перетворився на безладну територію галасливого, бурхливого та неконтрольованого, оскільки кількість людей, які користуються Інтернетом, помітно зросла.

Жартівливий анекдот говорить, що якщо мавпи, які друкують на друкарській машинці, зрештою створять або, скажімо так, відтворять увесь твір Шекспіра, тепер ми маємо доказ того, що завдяки появі Інтернету це явно неправда.

ти смієшся?

Дехто вважає це надзвичайно кумедним зауваженням.

Жарт — це принизлива думка про те, як Інтернет з усіма його пінистими та викидаючими публікаціями аж ніяк не піднімається до рівня створення Шекспіра. Це різке зауваження, яке підкреслює, що Інтернет, імовірно, не має піднесеного дискурсу, а натомість принижує дискурс. Багато хто припускав, що Інтернет стане благом для інтелектуальної взаємодії, дозволяючи спонукати до роздумів дискусії по всьому світу. Здається, ми не обов’язково стали свідками цього в таких масштабах, як сподівалися.

Звичайно, ми б помилилися, сприйнявши цей жарт як справжній провісник того, що зробив Інтернет. З Інтернетом пов’язано багато чудових відкриттів і цінностей, які заслуговують на увагу. Жарт — це прикраса або перебільшення. Тим не менш, правильно розуміють те, що нам потрібно бути обережними з підступним і безглуздим вмістом, водночас прагнучи знайти та популяризувати твори, які надихають суспільство, за допомогою Інтернету. Щоб дізнатися про те, як штучний інтелект може одночасно допомогти і водночас подвійним призначенням підірвати суспільний дискурс через негативні публікації в Інтернеті, перегляньте моє обговорення за посиланням тут.

У сьогоднішній колонці я розповім про суттєві відмінності між генеративним ШІ та класичною історією про типуючих мавп. Я поясню, де порівняння не вдається. Ви, безсумнівно, дізнаєтеся більше про теорему типізуючих мавп, а також більш конкретно зрозумієте, як працює генеративний ШІ. Час від часу я буду згадувати ChatGPT, оскільки це 600-фунтова горила генеративного штучного інтелекту (каламбур), хоча майте на увазі, що існує багато інших програм генеративного штучного інтелекту, і вони, як правило, базуються на тих же загальних принципах.

Тим часом ви можете задатися питанням, що таке генеративний ШІ.

Давайте спочатку розглянемо основи генеративного штучного інтелекту, а потім ми зможемо уважно поглянути на порівняння теореми типізуючих мавп.

До всього цього входить низка міркувань етики штучного інтелекту та законодавства щодо штучного інтелекту.

Будь ласка, зверніть увагу, що тривають зусилля з впровадження етичних принципів штучного інтелекту в розробку та впровадження програм ШІ. Зростаючий контингент занепокоєних і колишніх етиків штучного інтелекту намагається переконатися, що зусилля з розробки та впровадження штучного інтелекту враховують погляди на те, щоб робити штучний інтелект на користь і запобігати штучному інтелекту на користь зла. Подібним чином пропонуються нові закони про штучний інтелект, які розглядаються як потенційні рішення для запобігання спробам штучного інтелекту порушувати права людини тощо. Щоб дізнатися про мій постійний і широкий висвітлення етики штучного інтелекту та права штучного інтелекту, перегляньте посилання тут і посилання тут, щоб назвати лише деякі з них.

Розробка та оприлюднення етичних принципів штучного інтелекту триває, щоб, як ми сподіваємося, запобігти потраплянню суспільства в безліч пасток, що викликають штучний інтелект. Для того, щоб висвітлити принципи етики штучного інтелекту ООН, розроблені та підтримані майже 200 країнами завдяки зусиллям ЮНЕСКО, перегляньте посилання тут. Подібним чином досліджуються нові закони щодо штучного інтелекту, щоб спробувати підтримувати ШІ на рівному рівні. Один із останніх знімків містить набір запропонованих Біллів про права на штучний інтелект, які нещодавно оприлюднив Білий дім США, щоб визначити права людини в епоху штучного інтелекту. Перегляньте посилання тут. Потрібне село, щоб підтримувати ШІ та розробників ШІ на правильному шляху та стримувати цілеспрямовані чи випадкові підступні зусилля, які можуть підірвати суспільство.

У цю дискусію я буду переплітати міркування, пов’язані з етикою штучного інтелекту та законодавством щодо штучного інтелекту.

Основи генеративного ШІ

Найбільш відомий приклад генеративного штучного інтелекту представлений програмою штучного інтелекту під назвою ChatGPT. ChatGPT з’явився у громадській свідомості ще в листопаді, коли він був випущений дослідницькою компанією OpenAI. Відтоді як ChatGPT зібрав величезні заголовки та напрочуд перевищив відведені йому п’ятнадцять хвилин слави.

Я припускаю, що ви, напевно, чули про ChatGPT або, можливо, навіть знаєте когось, хто ним користувався.

ChatGPT вважається генеративним додатком штучного інтелекту, оскільки він приймає вхідний текст від користувача, а потім генерує або створює результат, який складається з есе. ШІ — це генератор тексту в текст, хоча я описую ШІ як генератор тексту в есе, оскільки це легше пояснює, для чого він зазвичай використовується. Ви можете використовувати генеративний штучний інтелект для створення довгих композицій або ви можете змусити його пропонувати досить короткі змістовні коментарі. Це все за вашим бажанням.

Все, що вам потрібно зробити, це ввести підказку, і програма AI згенерує для вас есе, яке намагатиметься відповісти на вашу підказку. Складений текст буде здаватися, ніби твір написано людською рукою і розумом. Якщо ви введете підказку «Розкажіть мені про Авраама Лінкольна», генеративний ШІ надасть вам есе про Лінкольна. Існують інші режими генеративного штучного інтелекту, такі як перетворення тексту в зображення та перетворення тексту у відео. Тут я зосереджусь на варіації тексту в текст.

Вашою першою думкою може бути те, що ця генеративна здатність не виглядає такою великою проблемою з точки зору створення есе. Ви можете легко здійснити онлайн-пошук в Інтернеті та легко знайти тонни й тонни есе про президента Лінкольна. Головна перевага генеративного штучного інтелекту полягає в тому, що згенероване есе є відносно унікальним і забезпечує оригінальну композицію, а не копію. Якби ви спробували десь знайти есе, створене штучним інтелектом, в Інтернеті, ви б навряд чи його знайшли.

Генеративний штучний інтелект попередньо навчений і використовує складну математичну та обчислювальну формулу, яка була створена шляхом вивчення шаблонів у написаних словах та історіях у мережі. У результаті вивчення тисяч і мільйонів письмових уривків ШІ може викинути нові есе та історії, які є сумішшю знайденого. Завдяки додаванню різних ймовірнісних функціональних можливостей отриманий текст є майже унікальним у порівнянні з тим, що використовувалося в навчальному наборі.

Існує багато проблем щодо генеративного ШІ.

Одним із суттєвих недоліків є те, що есе, створені програмою генеративного штучного інтелекту, можуть містити різні неправдиві факти, включаючи явно неправдиві факти, факти, які вводять в оману, і очевидні факти, які повністю сфабриковані. Ці вигадані аспекти часто називають різновидом галюцинацій штучного інтелекту. Ця фраза, яку я не сприймаю, але, на жаль, все одно набирає популярності (для детального пояснення того, чому це паршива та невідповідна термінологія, перегляньте моє висвітлення за посиланням тут) .

Інше занепокоєння полягає в тому, що люди можуть легко взяти на себе заслугу генеративного есе, створеного штучним інтелектом, незважаючи на те, що вони не написали есе самостійно. Можливо, ви чули, що вчителі та школи дуже стурбовані появою генеративних програм ШІ. Студенти потенційно можуть використовувати генеративний ШІ для написання своїх есе. Якщо учень стверджує, що есе було написано його власноруч, мало ймовірно, що вчитель зможе визначити, чи не було воно підроблено генеративним ШІ. Для мого аналізу цього аспекту, який викликає оману у студентів і вчителів, перегляньте моє висвітлення за посиланням тут і посиланням тут.

У соціальних мережах було кілька дивних заяв про Generative AI, які стверджували, що ця остання версія AI насправді є розумним AI (ні, вони помиляються!). Ті, хто займається етикою штучного інтелекту та правом штучного інтелекту, особливо стурбовані цією зростаючою тенденцією розкритих претензій. Ви можете ввічливо сказати, що деякі люди перебільшують те, що насправді може зробити сьогоднішній ШІ. Вони припускають, що штучний інтелект має можливості, яких ми ще не змогли досягти. Це прикро. Що ще гірше, вони можуть дозволити собі та іншим потрапити в жахливу ситуацію через припущення, що штучний інтелект буде розумним або схожим на людину, здатним діяти.

Не антропоморфізуйте ШІ.

Це призведе до того, що ви потрапите в липку та сувору пастку очікування від ШІ того, що він не в змозі виконати. Зважаючи на це, останній генеративний штучний інтелект відносно вражає своїми можливостями. Однак майте на увазі, що існують значні обмеження, про які ви повинні постійно пам’ятати, використовуючи будь-який генеративний додаток AI.

Наразі останнє попередження.

Що б ви не побачили або прочитали у генеративній відповіді AI, яка, здається, передається як суто фактична інформація (дати, місця, люди тощо), переконайтеся, що залишаєтесь скептичними та будьте готові ще раз перевірити те, що ви бачите.

Так, дати можна вигадувати, місця можна вигадувати, а елементи, які, як ми зазвичай очікуємо, будуть бездоганними, — усі вони підлягають підозрі. Не вірте тому, що ви читаєте, і будьте скептичними, досліджуючи будь-які генеративні есе чи результати ШІ. Якщо генеративний AI-додаток скаже вам, що Авраам Лінкольн облетів країну на своєму приватному літаку, ви, безсумнівно, зрозумієте, що це неприємність. На жаль, деякі люди можуть не усвідомлювати, що реактивних літаків не було в його часи, або вони можуть знати, але не помічати, що в есе робиться це нахабне та обурливо хибне твердження.

Велика доза здорового скептицизму та постійне недовір’я стануть вашим найкращим активом при використанні генеративного ШІ.

Ми готові перейти до наступного етапу цього з’ясування.

Що відбувається з тими мавпами, які друкують

Тепер, коли у вас є уявлення про те, що таке генеративний ШІ, ми можемо дослідити порівняння з мавпами, що друкують. У певному сенсі я збираюся крок за кроком розібрати теорему мавп’ячого друку. Я роблю це, щоб висвітлити основу. Потім ми можемо використати виявлені елементи для порівняння з генеративним ШІ.

Теорема або гіпотеза типізуючих мавп містить основний набір елементів:

а) хто або що. Ідентифікована істота або актор, який друкує. b) Кількість і довголіття. Скільки їх і статус довговічності c) Виведені символи. Виготовлення літер і відомих символів за допомогою елементарного пристрою d) Час. Тривалість виконання завдання e) Інтелект. Яку розумність вони привносять у виконання завдання f) Цільовий результат. Цільовий вихід того, що ми хочемо, щоб вони виробляли

Давайте спочатку розглянемо мавп, що друкують.

Можливо, ви пам’ятаєте, що я згадав на початку цієї дискусії, що ми мали уявити, ніби мавпа друкує на друкарській машинці. Я назвав базові поняття, що передбачають лише одну мавпу. Ми можемо налаштувати цей аспект.

Ось способи, як часто зображують ситуацію:

Одна самотня мавпа повсякденного смертного життя Тисяча таких мавп Мільйон таких мавп Нескінченна кількість таких мавп Самотня безсмертна мавпа Деяка кількість безсмертних мавп тощо.

Зауважте, що замість того, щоб мати лише одну мавпу, ми могли б переробити мисленнєвий експеримент і мати безліч мавп, які, ймовірно, працюють одночасно. Крім того, інший аспект, який можна налаштувати, полягає в тому, чи є мавпи смертними чи безсмертними. Я зараз розберуся в цьому глибше.

Ми також повинні включити фактор часу як вирішальний інгредієнт.

Зазвичай фактор часу є одним із цих двох факторів:

Кінцевий період часу Нескінченний час

Інший дещо невисловлений основний елемент полягає в тому, що в цьому випадку використовуються мавпи, тому що ми вважаємо їх відносно нерозумними. Вони не вміють ні читати, ні писати. Вони не здатні виявляти інтелект так само, як ми пов’язуємо інтелект із людськими здібностями.

Це дещо образливо, коли хоч трохи задуматися. Я думаю, ми всі можемо погодитися, що мавпи надзвичайно розумні, принаймні щодо того, що вони можуть досягти в межах свого мислення. Я б насмілився сказати, що ми приписуємо мавпам більшу розумову здатність, ніж багатьом іншим тваринам. Існує багато ретельних дослідницьких експериментів, які були проведені, щоб продемонструвати, наскільки розумовими можуть бути мавпи.

У будь-якому випадку, для цілей метафори, припущення полягає в тому, що мавпи не здатні думати до такої міри, щоб вони могли самостійно уявити твори Шекспіра. Хоча класичний фільм «Планета мавп» намагався попередити нас, що це може бути хибним припущенням, ми в будь-якому випадку йдемо з цим у сучасному світі.

Якщо ми замінимо мавп на мурахи, метафора дещо розвіється. Ми не думаємо, що мурахи можуть друкувати на друкарській машинці. Ми могли б спробувати замінити використання собак чи котів, оскільки вони майже могли друкувати на друкарській машинці, але, зрештою, використання мавп найкраще, оскільки вони можуть друкувати так, як люди друкують. Вони мають відповідні кінцівки та будову тіла для виконання поставленого завдання. Вони також розумово вважаються здатними друкувати, хоча ми припускаємо, що вони не знають, що вони друкують.

Крім того, було проведено багато дослідницьких експериментів із залученням мавп і їхнього розпізнавання символів. У цих різноманітних дослідженнях були включені установки, в яких мавпи друкували на друкарських машинках або подібних пристроях. Якщо це зробити належним чином, це може бути значущим у пошуках корисних ідей щодо інтелекту та формування розумної поведінки.

На жаль, дослідження, пов'язані з набором тексту на друкарських машинках, часом не проводяться в особливо серйозному ключі. Часом використовуваний підхід був нічим іншим, як слабким підморгуванням-підморгуванням у бік відомої чи сумнозвісної теореми про типографію мавп, а не до чесних основоположних досліджень. Я не вважаю такі витівки забавними чи доречними. Вважається, що мавпам фізично давали друкарські машинки та заохочували друкувати на основі їхньої примхи або іноді для частування, наприклад їжі. Якщо це не зроблено в добросовісний надійний експериментальний спосіб, це не що інше, як фасад.

Невеликий поворот, який є більш приємним, полягає в налаштуванні комп’ютерного моделювання, яке нібито виконує те, що могли б робити мавпи в цих обставинах. Для моделювання цих аспектів використовується комп’ютер. Справжні мавпи не задіяні. Деякі навіть зайшли так далеко, що зробили трохи так званої громадянської науки, роздавши симуляцію кожному, хто бажає дозволити використовувати свій ноутбук або комп’ютер для цих зусиль. Не піддавайтеся на фальшиві шахраї, які підступно стверджують, що роблять це заради науки, тоді як насправді вони намагаються заразити ваш комп’ютер комп’ютерним вірусом. Будьте обережні.

Повернемося до справи.

Одним із аспектів, який також є важливим для цієї обставини, є те, що друкарські машинки використовуються в цій гіпотетичній мавпі.

Чому друкарські машинки?

Тому що саме так ми можемо створити літери, які потім можна сформувати в слова, які потім можна сформувати в історії. Те саме чи подібне поняття створення великої кількості літер не обов’язково вимагає, щоб ми їх друкували. Дійсно, існують варіанти цієї метафори, які сягають часів Аристотеля, а отже, тоді ще не було друкарських машинок.

Ми могли б змінити метафору та посилатися на сучасні клавіатури та комп’ютери. Можна сказати, що мавпи стукають по ноутбуці чи, можливо, навіть по смартфону. Принадність згадки про друкарські машинки полягає в тому, що ми асоціюємо друкарські машинки як некомп’ютеризовані, і тому вони не допомагають у самому процесі друку. Це має вирішальне значення для залученого пристрою.

Нарешті, ми зазвичай представляємо той аспект, що твори Шекспіра повинні бути створені. Ми могли б легко замінити Шекспіра будь-яким іншим відомим автором. Можливо, ми хочемо знати, чи можуть мавпи створювати цілі твори Чарльза Діккенса, Джейн Остін, Ернеста Хемінгуея тощо. Це не особливо важливо. Суть полягає в тому, що письмо має бути чимось, що ми всі знаємо, і що ми визнаємо як видатне письмо.

Ми можемо легко замінити будь-який текст, який ми хочемо встановити як ціль.

Зручність посилатися на Шекспіра полягає в тому, що його твори тлумачаться як вершина людського письма. Натомість ми могли б знайти твір, написаний першокласником, і використовувати його як ціль. Вірте чи ні, ті самі правила все ще діють. Напевно, людей не надихає те, що мавпи змогли відтворити письмо дитини. Щоб все залишалося привабливим, текст має бути найвищого рівня.

Варіантом цільового результату було б посилання на окремий твір Шекспіра, а не на всю його творчість. Як ви незабаром побачите, це не має великого значення для суті справи. Я припускаю, що багато людей схильні згадувати Гамлета як частину теореми про мавпячий набір, можливо, тому, що це його найдовша п’єса, яка, як повідомляється, складається з 29 551 слова (що складається приблизно з 130 000 літер).

Будь-якої його п’єси було б достатньо.

Уся ця техніка базується на різних законах ймовірності. Можливо, ви дізналися про нюанси ймовірностей на тих виснажливих уроках статистики та математики, які проходили в школі.

Давайте використаємо слово «Гамлет», щоб побачити, що потрібно, щоб навмання створити ці шість букв у певній послідовності Гамлета.

Найпростіший спосіб арифметичного обчислення полягає в тому, щоб припустити, що ми маємо просте кругле число доступних клавіш на друкарській машинці. Припустимо, у нас є друкарська машинка, яка має 50 різних і однаково корисних клавіш. Кожна клавіша представляє окремий символ, такий як символи звичайного англійського алфавіту. Припустімо, що ключі розташовані у випадковому порядку і що ми не сфальсифікували ситуацію, розмістивши окремі ключі Гамлета в певному порядку, щоб спонукати до введення цих конкретних ключів більше, ніж будь-яких інших ключів.

Кожна клавіша натискається абсолютно незалежно від того, яка клавіша була натиснута до неї. Тому ймовірність натискання будь-якої клавіші з 50 клавіш вважається 1 з 50. Те саме стосується всіх клавіш і протягом усього процесу друку. Розрахунок для однієї натиснутої клавіші є шансом 1 із 50, або це 1/50.

Таким чином, шанси ввести букву «H» становлять 1/50, шанси ввести літеру «a» — 1/50, шанси ввести літеру «m» — 1/50 і так далі.

Це є:

Імовірність того, що «H» буде введено, становить 1/50. Імовірність введення «а» становить 1/50. Імовірність введення «m» становить 1/50. Імовірність введення «l» становить 1/50. Імовірність введення букви «e» становить 1/50. Імовірність введення «t» становить 1/50.

Стандартне правило або закон ймовірності стверджує, що якщо дві або більше подій є повністю статистично незалежними одна від одної, ми можемо обчислити ймовірність того, що вони відбудуться, просто помноживши їхню ймовірність одна на одну відповідно. Ми можемо зробити це щодо цих шести літер.

Ми маємо такий розрахунок: «H» (1/50) x «a» (1/50) x «m» (1/50) x «l» (1/50) x «e» (1/50) x «t» (1/50)

Тобто: (1/50) x (1/50) x (1/50) x (1/50) x (1/50) x (1/50)

Найменше число дорівнює 1/15 625 000 000.

Тоді ймовірність ввести слово з шести букв «Гамлет» становить приблизно один до 15 мільярдів, за інших рівних умов.

Це страхітливі шанси. І це лише для введення певного слова з шести букв. Спробуйте застосувати цей самий розрахунок до 29 551 слова всієї п’єси «Гамлет». Якщо ви вирішите обчислити це, усвідомте також, що потрібно враховувати пробіли між словами.

Чим довший цільовий результат, тим більше шансів, що ми не зможемо створити ці точні набори літер і слів. Шанси стають все меншими. Шанси настільки малі, що ми ледь не викинули б рушник і сказали, що здається, що цього «ніколи» не станеться (будьте обережні, вживаючи слово «ніколи», оскільки це серйозна суперечка).

Візьмемо, наприклад, смертну мавпу.

Відповідно до різних поважних даних в Інтернеті, звичайна тривалість життя мавпи в дикій природі становить близько 40 років або близько того. Якщо ви хочете обговорити тривалість життя, ми можемо просто використати число 100 і продовжити з досить малоймовірною верхньою межею. Мавпа, яка безперервно друкує на друкарській машинці протягом, скажімо, ста років, не враховуючи часу на відпочинок, часу на їжу тощо, і припускаючи, що це все, що мавпа робила з моменту народження до останнього подиху, все одно виграла Не допоможе зрівняти шанси написання всього Гамлета (якщо мавпа набирала клавішу кожну секунду без зупинки протягом 100 років, натиснула б приблизно 3 155 673 600 клавіш).

Ми можемо розумно сказати, що надзвичайно малоймовірно, що смертна мавпа випадково надрукує п’єсу «Гамлет».

Ви можете збільшити кількість смертних мавп, але це мало зменшить переважну ймовірність ввести Гамлета. Деякі вважають, що мавп тисяча. Інший підхід говорить, що існує мільйон мавп. Якщо припустити, що всі вони дожили до 100 років і кожен набрав одну випадкову клавішу на своїй відповідній друкарській машинці з безперервною швидкістю одна клавіша в секунду, це все одно не робить статистично помітної проломи в наборі п’єси «Гамлет».

Обміркуйте все це.

Дещо дивно, куди б ви помістили мільйон мавп для цього завдання? Уявіть також, що друкарських машинок має вистачити на сто років безперервного використання (чи можете ви знайти мільйон робочих друкарських машинок, які ніхто не хоче і не хоче пожертвувати цьому колишньому проекту?). Схоже, вам знадобиться мати напоготові багато запасних друкарських машинок. І так далі. Логістика приголомшлива.

Тоді все це здається похмурим, що смертні мавпи навряд чи відтворять Гамлета.

Але припустімо, що ми зробимо їх безсмертними. Так, ми даємо їм чарівне зілля, яке дозволяє їм жити вічно. Нам навіть не потрібна більше однієї безсмертної мавпи. Підійде лише один. Це могло б зробити метафору більш захоплюючою, якщо стверджувати, що у нас є тисяча чи мільйон безсмертних мавп.

Якщо у нас є одна мавпа, яка може жити вічно, ми можемо припустити, що це нескінченна мавпа. Він може нескінченно довго стукати по клавішах друкарської машинки. Ця мавпа буде йти і йти. Відповідно, навіть незважаючи на те, що шанси надрукувати п’єсу «Гамлет» були надзвичайно малими, той аспект, що мавпа безкінечно продовжуватиме намагатися, свідчить про те, що в якийсь момент п’єса «Гамлет» майже напевно буде надрукована.

Так би мовити, емпіричне правило полягає в тому, що послідовність подій, які мають відмінні від нуля шанси статися, хоч і надзвичайно низькі шанси, ми цілком погодимося, що майже відбудуться, якщо у нас є нескінченний час для гри, за інших рівних умов. Ті, хто займається математикою та статистикою, схильні описувати те саме міркування за допомогою рядків або навіть двійкових чисел 0 і 1. Якщо у вас є скінченний набір символів, і існує нескінченний їх рядок, у результаті чого кожен символ має було обрано рівномірно навмання, там є скінченний рядок, який ви майже напевно могли передбачити.

У всьому цьому є велика заковика.

Ми живемо в скінченному світі. Здавалося б, ніхто з нас не має нескінченно вільного часу. Для тих із вас, хто каже, що так, слава. Знімаю капелюх перед вами.

Якщо ви нав’яжете мавпам, що друкують, обмежений світ, ви зіткнетеся з досить твердою стіною. Аналіз теореми про типізовану мавпу значною мірою стверджує, що ймовірність досягнення п’єси «Гамлет» достатньо близька до нуля за скінченний час, що за будь-якої обґрунтованої операційної основи це просто малоймовірно. Звичайне зображення полягає в тому, що якщо ви використовуєте стільки мавп, скільки атомів у відомому Всесвіті, і вони продовжують друкувати багато мільярдів разів у часовому проміжку Всесвіту, ви все ще дивитеся на неймовірно крихітні й незбагненні шанси побачити зіграти Гамлета.

Теорема друкарської мавпи – це досить дурна думка, і її часто входять до семи найкращих експериментів нашого часу. Ви можете додатково вивчити теорему, оскільки в Інтернеті доступно багато аналізів. Це яскравий і приємний спосіб зрозуміти ймовірність і статистику. Замість того, щоб мати справу виключно з сухими цифрами, ви можете уявити тих веселих веселих мавп і всі ці старомодні клацаючі клацаючі машинки.

Тепер ми готові запровадити генеративний штучний інтелект у головоломку мавп і друкарських машинок.

Generative AI дратується мавпами друку

Передумовою, яку ми збираємося уважно дослідити, є спірне твердження, що генеративний ШІ, такий як ChatGPT, нічим не відрізняється від мавп, що друкують. Кажуть, що якщо ChatGPT або будь-який генеративний штучний інтелект може створювати Гамлета чи подібні відомі твори, це цілком випадковий результат, який, ймовірно, виник так само, як мавпи могли б надрукувати цю довго цінувану та глибоко шановану п’єсу Шекспіра .

Вибачте, це неправильне мислення щодо цієї важливої теми.

Давайте подивимося чому.

Спочатку розглянемо та розповімо, з чого складається генеративний ШІ.

Нагадаємо, раніше я зазначав, що генеративний штучний інтелект – це програмне забезпечення, яке передбачає використання алгоритмів для підготовки даних до тексту, який існує в Інтернеті та через інші подібні джерела. Величезний набір зіставлення шаблонів за допомогою математичних і обчислювальних засобів виявив шаблони серед мільйонів і мільйонів оповідань і есе, які ми, люди, склали.

Слова самі по собі не мають особливого значення. Уявіть їх як об’єкти. У комп’ютері вони представлені у вигляді чисел, які ми позначаємо як жетони. Вони використовуються як зручний засіб для зв’язування інших слів або токенів один з одним, роблячи це в глибокій і складній статистичній структурі, схожій на мережу.

Дехто в галузі ШІ стурбований тим, що це не що інше, як те, що називають стохастичним папугою.

Розумієте, замість того, щоб намагатися пов’язати якусь подобу «значення» зі словами, натомість це просто розширений індекс слів, які, здається, вживаються навколо або поруч з іншими словами. Навпаки, ми припускаємо, що люди можуть «розуміти» природу та значення слів.

Розгляньте свій щоденний доступ до наявності дослівної відповідності. Подібно до того, як ви використовуєте звичайну функцію автозавершення у своєму програмному забезпеченні для обробки текстів, комп’ютер математично обчислює, що за окремим словом зазвичай слідує інше конкретне слово, за яким, у свою чергу, йде інше конкретне слово тощо. Таким чином, ви часто можете почати писати речення, а пакет обробки текстів покаже вам припущення про те, якими будуть додаткові слова в реченні.

Це припущення, оскільки за статистикою це можуть бути звичайні слова речення, але ви можете мати на увазі щось інше, тому передбачення не відповідає тому, що ви хотіли написати. Ймовірно, існує достатньо інших прикладів речень, у яких використовуються ці слова, і алгоритм може визначити, що ви, ймовірно, захочете закінчити речення передбаченими словами. Це не залізо. Крім того, немає жодного «сенсу», пов’язаного з цим обчислювальним припущенням.

Деякі дослідники штучного інтелекту стверджують, що для створення справжнього штучного інтелекту, який часто називають штучним загальним інтелектом (AGI), нам потрібно буде якимось чином кодифікувати в комп’ютерах ще відкриту або винайдену форму «розуміння» (перегляньте мою колонку для численних публікацій про AGI). і погоня за AGI). Вони стурбовані тим, що манія генеративного ШІ зайшла в глухий кут. Ми продовжуватимемо намагатися просувати генеративний штучний інтелект все далі й далі, збільшуючи розмір обчислювальних мереж і застосовуючи до цього все більше комп’ютерної обчислювальної потужності. Вони стверджують, що все це буде марним, коли справа дійде до прибуття в AGI.

Додатковим сумнівом є те, що, можливо, ця гонитва за передбачуваним глухим кутом відволікає нас від правильного чи належного курсу дій. Ми витратимо величезну енергію та зусилля на досягнення помилкового кінцевого стану. Звичайно, генеративний штучний інтелект може бути приголомшливим у мімікриї, але може бути, що це мало або зовсім не пов’язано з AGI. Ми могли б обдурити себе, втративши дорогоцінну увагу. Ми можемо затримати або, можливо, взагалі не дістатися до AGI через це привабливе відволікання.

У будь-якому випадку, для цілей друкуючих мавп, давайте повернемося до загальної суперечки.

Нам потрібно враховувати такі важливі фактори:

1) Розумний проти нерозумного 2) Мислення проти не «мислення» 3) Обмежені процеси мислення проти комп’ютерних алгоритмів і зіставлення шаблонів 4) Непідготовлений або нездатний до навчання проти навчених обчислювальних даних

Давайте розглянемо кожен із цих факторів.

Розумний проти нерозумного

Я вважаю, що ми можемо визнати, що мавпи є розумними істотами. Незалежно від того, наскільки розумні чи недостатньо розумні, ви можете стверджувати, що вони є; вони, безсумнівно, розумні. це факт. Ніхто не може розумно стверджувати протилежне.

Сучасний штучний інтелект не є розумним. Крапка, крапка.

Крім того, я стверджую, що ми не наближаємося до розуму ШІ. Інші, звичайно, можуть не погодитися. Але будь-хто з розважливим розумом погодиться, що сучасний штучний інтелект не є розумним. Щоб переглянути мій минулорічний аналіз жахливо помилкового маркування чутливості ШІ тим інженером Google, перегляньте моє обговорення за посиланням тут.

Отже, одна суттєва відмінність між тими мавпами, які охоче друкують, і сьогоднішнім генеративним ШІ полягає в тому, що мавпи є розумними істотами, а ШІ – ні. Крім того, порівнювати сучасний штучний інтелект з чимось розумним часто буває слизьким. Існує тенденція до антропоморфізації ШІ. Я рішуче закликаю, щоб спробувати запобігти цій легкій психічній пастці, щоб ми не спіткали нас, ми уникали будь-яких порівнянь між ШІ та розумними істотами, якщо тільки ми не підходимо до плану та чітко чітко визначаємо та розмежовуємо цю різницю.

Мало хто робить таке розмежування, порівнюючи типуючих мавп і генеративний ШІ. Вони припускають, що ви або вже зрозумієте, що ця різниця є, або їм байдуже, що різниця є, або вони про це не думали тощо.

Мислення проти не «думання»

Я б сказав, що мавпи вміють мислити. Вони мислячі істоти. Ми можемо сміливо обговорювати, скільки вони можуть думати. Майже напевно ви повинні погодитися, що мавпи вміють мислити.

Сучасний ШІ всіх видів, включаючи генеративний ШІ, не досягає того, що я вважаю людською здатністю мислити.

Я повторю мій щойно згаданий приспів, який стосується відчуття. Це вводить в оману, і я вважаю неправильним говорити, що сьогоднішній ШІ може думати. На жаль, люди роблять це постійно, включаючи дослідників і розробників ШІ. Я вважаю, що це знову невдала і необачна антропоморфізація. Ви надаєте штучному інтелекту видимість потенціалу чи можливостей, яких немає, і це дезінформує суспільство в цілому щодо цього питання. Припиніть це робити.

Генеративний штучний інтелект — це складна веб-структура математичних і обчислювальних властивостей. Це викликає захоплення. Те, що цим досягнуто, просто неприємно. Я не вірю, що будь-яке розумне тлумачення «мислення», як ми його уявляємо, у всій його красі підходить цьому ШІ.

Обмежені процеси мислення проти комп’ютерних алгоритмів і зіставлення шаблонів

Мавпи обмежені в своїх процесах мислення.

Вам може бути цікаво, що в науковій літературі існує багато порівнянь мозків мавп із мозками людей. Наприклад, розглянемо це дослідження: «Людський мозок приблизно втричі більший за мозок нашого найближчого родича, шимпанзе. Більше того, частина мозку під назвою кора головного мозку, яка відіграє ключову роль у пам’яті, уважності, обізнаності та мисленні, містить у людей вдвічі більше клітин, ніж той самий регіон у шимпанзе. Мережі клітин головного мозку в корі головного мозку також поводяться по-різному у двох видів» (у статті, опублікованій в eLife, вересень 2016 року, під назвою «Відмінності та подібності між нервовими попередниками людини та шимпанзе під час розвитку кори головного мозку»).

Ми всі розуміємо, що мавпи не зрівняються з людським мисленням. Безсумнівно, ці дивовижні створіння можуть бути привабливими та виявляти напрочуд багато роздумів. Вони просто не досягають рівня людського мислення. Я пошкодую, що сказав це, коли мавпи заволодіють людством.

Я вже озвучив хвилину тому, що сьогоднішній ШІ не мислить. Я підкреслив, що те, що робить штучний інтелект, не слід називати «мисленням», оскільки це вводить в оману та вводить в оману.

Ось де генеративний штучний інтелект справді затьмарює мавп з точки зору використання комп’ютерної обробки, заснованої на розроблених людьми алгоритмах і заснованих на створених людьми творах. Шансів того, що мисляча мавпа могла б засвоїти та узгодити шаблон із широким використанням письмових символів, які придумали люди, мало або взагалі немає. Мавпи не мають такої здатності до мислення.

Я вагаюся пропонувати таке порівняння, враховуючи інші мої сумніви. Але я чітко заявляю про припущення та про те, як правильно й відповідним чином провести цей аналіз.

Непідготовлений або нездатний до навчання проти підготовлених обчислювальних даних

Подібно до того, що я щойно сказав, ви не зможете навчити мислячу мавпу широкому використанню письмових символів людства. Ви можете зробити це на дуже обмеженій основі, і дослідження показали, що мавпи, здається, можуть думати про письмові символи. Це набагато менше, ніж можливість запам’ятовувати та повторювати численні шаблони слів, речень і цілих оповідань.

Генеративний штучний інтелект — це комп’ютерна статистична мімікрія, яку можна навчити обчислювальними даними. Якщо ми будемо продовжувати надсилати більше даних, таких як додаткові тексти, які ми збираємо або знаходимо, припущення та надія полягають у тому, що знайдені закономірності будуть ставати все глибшими. Крім того, використання все швидших і швидших комп’ютерних мікросхем і обробки також підвищить цю здатність зіставлення шаблонів і реагування.

Дивлячись на нижню лінію

Якби генеративний штучний інтелект створив п’єсу «Гамлет», що б це означало?

По-перше, ми повинні розглянути, чи була історія чи п’єса подана в генеративний ШІ під час навчання даних. Якщо так, то немає нічого особливо помітного чи примітного в тому, що генеративний ШІ пізніше видає ті самі слова, які він раніше просканував.

Дослідник штучного інтелекту може бути трохи наляканий, тому що зіставлення шаблонів, мабуть, зайшло за межі, по суті запам’ятавши слова. У сфері машинного навчання ми зазвичай називаємо це переобладнанням даних, які використовувалися під час навчання. Як правило, ви не хочете, щоб точні слова були шаблонними, ви хочете, щоб утворився узагальнений шаблон.

У своїх колонках я обговорював занепокоєння тим, що іноді ми можемо спостерігати порушення конфіденційності та розкриття конфіденційних даних у випадках, коли генеративний штучний інтелект виконував точну відповідність, а не узагальнену відповідність поданих даних. Перегляньте моє висвітлення за посиланням тут.

По-друге, припустимо, що п’єса «Гамлет» не була введена в генеративний ШІ. Наступним питанням буде те, чи були будь-які твори Шекспіра відскановані під час навчання даних.

Якщо це так, можна припустити, що п’єса «Гамлет» може бути створена на основі моделей, пов’язаних з іншими творами Шекспіра, особливо якщо є інші посилання або згадки про Гамлета в інших місцях у навчальному наборі даних. Усе це потенційно може бути використано для зіставлення шаблонів для формування стилю Гамлета. Слід визнати, що можливість створити Гамлета слово в слово було б великим досягненням, значно відкриваючим очі та дивовижним результатом.

По-третє, якби генеративний штучний інтелект створив повний Гамлет і ніколи раніше не отримував нічого про Шекспіра, це було б дивно. Хоча це не обов’язково буде цілком схоже на чисто випадковий характер кльовування клавіш на друкарській машинці. Ми маємо усвідомити, що слова Шекспіра – це слова, отже, вони є частиною сукупності формулювань, які можна знайти у величезному масиві текстових історій та оповідань, які надходять у генеративний ШІ. Ви покращуєте шанси, починаючи з наріжного каменю слів і асоціацій між словами. Проте ймовірність того, що щось подібне трапиться, дуже мала.

Висновок

Коли справа доходить до створення слів і есе, генеративний штучний інтелект перетворюється на гангстерів, оскільки він заснований на придуманих людьми словах і есе (звичайно, нам потрібно відверто мати справу з помилками, неправдою та галюцинаціями ШІ). ШІ не «розуміє» випромінювані слова. Там його немає, там.

Вам не потрібно чекати нескінченний період часу, щоб побачити плавні есе та повністю читабельні результати. Вони відбуваються щодня та одним натисканням кнопки. Вони не переплутані, принаймні в більшості випадків, через те, що вони створені на основі написаного людьми. Зіставлення шаблонів має бути додатково налаштовано та, зрештою, достатньо якісне, щоб зменшити більшість дивних формулювань, перегляньте моє пояснення того, як це може працювати, показано за посиланням тут. Це налаштування постійно вдосконалюватиметься, і ми всі будемо все більше вражені тим, що створює генеративний ШІ.

Слова підібрані не випадково. Слова не написані випадково. Існують деякі ймовірнісні аспекти, наприклад, під час генерації виведеного есе щодо того, які слова вибрати. Але це все ще базується на людських писаннях і, отже, мабуть, не випадково. Він заснований на випадковому виборі серед кількох або деякої кількості варіантів формулювань, які в іншому випадку статистично можна вважати наступним вибраним словом або набором слів.

Яке місце в цьому мають мавпи?

Ці мавпи, що друкують, безперечно привабливі як основа для порівняння з генеративним ШІ. Мавпи, що створюють Гамлета, проти генеративного ШІ, що створює Гамлета. Це захоплюючий конкурс. Ви можете сказати, що тут взагалі не йдеться про змагання. Штучний інтелект, розроблений людством і заснований на працях людства, має несправедливу перевагу в цьому відношенні.

Говорячи про мавп, які друкують, в епізоді «Сімпсонів» містер Бернс вирішує найняти мавп, щоб вони продовжили друкувати на друкарських машинках як частину офісного набору тексту. Він такий сварливий бос, який із задоволенням тяжів би до використання мавп у своїй необхідній офісній роботі замість використання людей, якби міг це зробити.

Шанувальники шоу можуть згадати, що відбувається.

Містер Бернс хапає одну з надрукованих сторінок і з жадібним передчуттям читає те, що набрала мавпа. Він читає сторінку вголос і каже: «Це були найкращі часи, це були найяскравіші часи» (тобто, є одне слово, яке переплутано, «вибух» або щось подібне). Він стає повністю розлюченим і абсолютно розчарованим тими «дурними мавпами» щодо того, що вони можуть зробити.

Ми знаємо, що якби мавпа надрукувала цю частину «Повісті про два міста» Чарльза Діккена, ми мали б бути в захваті та стрибати від радості. Не так для містера Бернса.

Як останній коментар до цієї дискусії, мабуть, нам слід згадати повне речення Чарльза Діккенса: «Це були найкращі часи, це були найгірші часи, це була доба мудрості, це була доба дурості, це була епоха віри, це була епоха недовіри, це була пора світла, це була пора темряви, це була весна надії, це була зима відчаю».

Ми не зовсім впевнені, куди ми прямуємо з ШІ. Деякі кажуть, що це буде найкраще після нарізаного хліба. Інші попереджають, що штучний інтелект, який ми створюємо, стане ризиком для існування людства. Це справді або найкращі часи, або найгірші часи.

Не дивуйтеся, побачивши, що генеративний ШІ видає ці слова. Здивуйтеся, якщо ви побачите в зоопарку мавп, які випадково друкують на друкарських машинках і примудряються друкувати ті самі проникливі слова.

Будь ласка, дайте мені знати, якщо ви це побачите.

Я готовий довго чекати, поки це станеться, але, мабуть, не нескінченно.