В минулому році на своїй лекції «Світ в 2040 році» для студентів Yale University я сказав, що …
… Пошукові системи типу Google (монополіст на глобальному ринку) з 2000х були ДВЕРИМА для нас в світ Інтернет. В майбутньому такі системи захотять стати самим СВІТОМ. Тобто замість того, щоб на ваш запит видавати набір сайтів по словах, відранжованих завдяки adwords, пошук буде вам видавати відповіді сам без посилання на сайти — який найкращий квіток (вже роблять), де забронювати ресторан (вже роблять), чи є росія — країною-терористом (ще не робить) тощо.
Мені здається, що такий час наближається.
Розвиток ChatGPT та вихід в наступному році GPT-4 напевно змінить не тільки то, ЯК ми шукаємо у Всесвітній павутині, але й то, ЩО ми там знаходимо.
Особливо, приймаючи до уваги, що аналітики кажуть, що скоро настане момент, коли ці системи “start running out of data” — тобто вони вже зможуть включати в свої моделі всі наявні для тренінга дані: всі світові книги, усі наукові роботи, усі статті новин, усю Вікіпедію, увесь загальнодоступний код і велику частину решти Інтернету, відфільтровану за якістю, наприклад, веб-сторінки, блоги, соціальні медіа.
Скоріш за все після цього, умовний ChatGPT3 почне вигадувати контент, який ми навіть не зможемо відрізнити від реальності (як це зараз вже робиться з генерацією картинок)…
Пристебнутися всім! а бізнесу, який був побудований на клієнтах, які приходили через пошук, треба буде перебудовувати бізнес-моделі.
З коментарів:
Дмитро Золотухін: Найсмішніше у контексті цього посту це той факт, що досягнувши таких проривів у комерційній сфері застосування штучного інтелекту та перевірки інформації, світ так і не наблизився до вирішення проблеми дезінформації.
Хоча за увесь цей період і масштаб витрачених мільярдів на “боротьбу” можна вже було це зробити щонайменше чотири рази. Але, оскільки ми “продовжуємо боротися” – це говорить про те, що комусь дуже вигідна безкінечна боротьба. Але не перемога!
Не нагадує ситуацію з агресією?
Наталя Веремеєва: Прочитала цей пост і цей коментар до нього. І в мене виникла ідея…
Якщо до Гугл-видачі та до механізмів «споживання» контенту новими системами додати ще один важливий показник — ступінь довіри до джерела.. І, наприклад, якщо це людина, чи сайт, медіа, хоч раз надав недостовірну інформацію, яка була спростована фактами, то він отримує позначку брехні, і ВСІ тексти цієї людини чи з цього джерела не з’являються у видачі та не приймаються до уваги ШІ.
А щоб розблокувати це – мають бути створені спеціальні незалежні (!) суди з дезінформації, які будуть розглядати справу та робити інформаційне помилування/виправдання або довічний глобальний мережевий мут. Тобто людина/медіа писати зможе, але з позначкою «брехня» як на сайті візуально, так і в коді сайту чи всіх посилань людини, для правильної індексації, і таким чином це ніхто читати не буде.
Бо зараз цей стогін щодо дезінформації якийсь дивний. Всі критикують – і все ж це лайно, що було вже не раз доказано, що бреше – все одно читають. Має бути жорстко. І тоді всі будуть зважувати кожне слово і перевіряти факти, коли з’явиться відповідальність.
Бо якщо ми вже навчилися карати за вбивства, крадіжки, тощо, то чому ж брехню не вважаємо за злочин, що також вимагає покарання? Дезінформація призводить до катастрофічних наслідків. Це я вам як людина з Донецька кажу, де в 2014 році я сама була свідком, що може наробити купа брехні.
Сергій Пікалов: як від знає ЩО є правда? Наприкоад, він аналізує 100 ресурсів про якесь питання. І там 50/50 кардинально різні думки. До якого висновку він має прийти? Зараз він дуже обережно і намагається говорити типу :є різні погляди на це, буває і так і так.
Але потрібна якась дуже велика робота, щоб навчити його шукати саме правду.
Та, враховуючи, що один АІ може за день написати для інтернету 100 тис різних статей, які потім схаває інший АІ — то заплутати їх — це питання часу.
Від УСІМ:
Поговорили-побалакали, сіли та й заплакали. Тут маємо помилку, на якій набивають лоби навіть такі люди, як Ілон Маск. Марк Цукербергер та їм подібні. Вони, як і пан Рашкован, сприймають інформацію як бізнес для заробляння грошей. І це — груба помилка, спричинена елементарною неосвіченістю.
Інтернет у цілому, як і соціальні мережі зокрема, а також блоґи і все таке інше треба розглядати як вид журналістської діяльності, як медія, і тоді все стане на свої місця. Особливо — коли до управління цими процесами прийдуть талановиті медіаменеджери, а учасниками — люди бодай із базовою журналістською освітою, які навчені правильно будувати інформаційне повідомлення, написати репортаж, огляд чи аналітичну статтю.
Прикро, що особа, яка читає лекції в Єйлі, не розуміє цих речей і допускає можливість перетворювати простір інтернету на інформаційний смітник. А на смітнику, як і треба сподіватися, завжди більше фейків і неправдивої інформації. Як би не вибудовувався алгоритм пошукової системи, він апріорі неспроможний відділяти зерно від полови.