У масовій свідомості надлюдський штучний інтелект — технологічне цунамі, що загрожує не лише економіці та людським відносинам, а й самій цивілізації. Конфлікт між людьми та машинами бачиться невідворотним, а його результат зумовленим. Видатний дослідник ІІ Стюарт Рассел стверджує, що цього сценарію можна уникнути.

У своїй новаторській книзі автор розповідає, як люди вже навчилися використовувати ІІ, в діапазоні від смертельної автономної зброї до маніпуляцій нашими уподобаннями, і чому ще зможуть її навчити. Якщо це станеться і з'явиться надлюдський ІІ, ми зіткнемося з сутністю, набагато могутнішою, ніж ми самі. Як гарантувати, що людина не опиниться у підпорядкуванні надінтелекту?

Для цього, вважає Рассел, штучний інтелект має будуватися на нових засадах. Машини мають бути скромними та альтруїстичними та вирішувати наші завдання, а не свої власні.

Про те, що це за принципи і як їх реалізувати, читач дізнається з цієї книги, яку найавторитетніші видання у світі назвали головною книгою про штучний інтелект.

Все, що може запропонувати цивілізація є продуктом нашого інтелекту; Набуття доступу до істотно переважаючим інтелектуальним можливостям стало б найбільшою подією в історії. Мета цієї книги — пояснити, чому вона може стати останньою подією цивілізації і як виключити такий результат.

Введення поняття корисності — невидимої властивості — для пояснення людської поведінки за допомогою математичної теорії було приголомшливим для свого часу. Тим більше, що, на відміну від грошових сум, цінність різних ставок і призів з точки зору корисності недоступна для прямого спостереження.

Першими, хто справді виграє від появи роботів у будинку, стануть старі та немічні, яким корисний робот може забезпечити певний ступінь незалежності, недосяжний іншими засобами. Навіть якщо робот виконує обмежене коло завдань і має лише зародкове розуміння того, що відбувається, він може бути дуже корисним.

Очевидно, дії лояльних машин повинні обмежуватись правилами та заборонами, як дії людей обмежуються законами та соціальними нормами. Деякі фахівці пропонують як рішення безумовну відповідальність.

Особливості
Книга у доступній формі розповідає про проблеми, пов'язані з розвитком штучного інтелекту.

Для кого
Для тих, хто цікавиться перспективами розвитку штучного інтелекту.