Ответ спасен из Яндекс.Кью
"Что-то будет" задолго до этого. Что такое самосознание человеческого типа, до конца никто не знает, может ли ИИ обрести его, тоже. Но нам в это погружаться и не нужно. Достаточно сделать естественное предположение, что для самосознания необходим (хотя и не является достаточным) интеллект человеческого уровня.
Так вот ещё до достижения нейросетями интеллекта человеческого уровня мы обнаружим себя в "очень интересном" новом мире. Например, в Индии на стройке издавна использовали слонов. Слоны довольно умные животные и поддаются дрессировке, позволяющей им выполнять несложные поручения самостоятельно, с минимумом присмотра. Представьте себе автоматическую строительную технику с интеллектом слона, только более точную, сильную, надежную и послушную. Нестандартные ситуации происходят не так часто, и с ними сможет справиться прораб (не вручную, конечно, а с помощью такой же техники), а рутинные операции совсем автоматизируются.
Хммм, внезапно большинство строителей мира остаются без работы. То же рассуждение применимо вообще к любому физическому труду, да и не только к физическому. Автомату, способному почти полностью заменить человека во многих рабочих профессиях, на сборе урожая, в работе продавца, уборщика, водителя и тд и тп, вовсе не нужен полноценный человеческий интеллект. Только не обижайтесь, сли вы работаете в одной из них, пожалуйста! В любой профессии можно работать с душой и так, чтобы этим гордиться, и как человек Вы, конечно, незаменимы, но вот задумается ли об этом ваше начальство, если тупой робот сможет делать "примерно то же самое" в 90% случаев, но бесплатно?
Военный самолёт-дрон с интеллектом, как у вороны? Боевые машины с интеллектом примерно как у хищного животного? Где-то мы такое кино недавно видели... Причем я даже не намекаю на "восстание машин": пусть такие роботы будут находиться под полным контролем небольшой горстки владельцев и действовать строго в их интересах, остальным от этого намного легче-то не станет.
И это только те профессии и области, которые первыми в голову приходят. Так что искусственный интеллект ещё не успеет "обрести самосознание" или "выйти из-под контроля" или совершить что-нибудь неожиданное, а мир уже кардинально и необратимо изменится от совершенно штатных и запланированных форм его применения.