Великие технологические революции повлияли на все аспекты повседневной жизни человека и на структуру общества. Предыдущая революция, промышленная, создала много рабочих мест, поскольку новая технология требовала работы большого количества людей. Это не нормальное свойство новой технологии; в каком-то смысле, это была аномалия. Но теперь многие думают, возможно, подсознательно, что технологические революции всегда хорошо влияют на личное благосостояние большинства.
Кажется, что софтверная революция сделает то, что обычно делает технология, — увеличит благосостояние, но уничтожит рабочие места. Конечно же, мы вероятно сможем найти новые занятия, чтобы удовлетворить бесконечные человеческие потребности. Но нам следует прекратить притворяться, что софтверная революция сама по себе увеличит средние доходы людей.
Технология даёт рычаг для умножения способностей и удачи, в процессе чего неравномерно распределяет благосостояние и ведёт к неравенству. Я думаю, что радикальное неравенство в благосостоянии может стать одной из главных социальных проблем в ближайшие 20 лет. Мы можем — и будем — перераспределять финансы, но это всё ещё не решает реальную проблему с людьми, которых нечем занять.
Попытка сохранить бесполезные работы — ужасная, но популярная идея. Попытка найти новую работу для миллиардов людей — хорошая идея, но очень трудно реализуемая, потому что какие бы ни были эти профессии, они вероятно будут настолько отличаться от всего существующего сейчас, что разумное планирование почти невозможно. Но нынешняя стратегия — «притворимся, что разговоры о беспилотных автомобилях ведут в шутку, а Uber действительно создаст миллионы рабочих мест навечно» — неправильный ответ.
Вторая серьёзная проблема софтверной революции — концентрация большей власти в руках малых групп людей. Такое тоже случается после большинства технологических революций, но последняя по-настоящему мощная технология (атомная бомба) преподала нам плохой урок в том же смысле, как промышленная революция с увеличением занятости.
Сделать атомную бомбу сложно не из-за того, что информация засекречена (хотя так и есть — если я, предположим, знаю как сделать атомную бомбу, я не имею права рассказывать об этом), а из-за гигантского количества энергии, которое требуется для обогащения урана. Требуются буквально ресурсы целой страны, чтобы сделать это.
Опять же, это не нормальное свойство новой технологии, это отличительная особенность атомной промышленности. Софтверная революция, скорее всего, будет вести себя стандартным образом — и предоставит больше власти небольшим группам людей.
Два главных риска, которые я вижу в софтверной революции, — ИИ и синтетическая биология — могут предоставить малым группам или даже отдельным людям огромный деструктивный потенциал. Вероятно, уже сейчас существует возможность спроектировать и произвести ужасную болезнь в маленькой лаборатории. Создание ИИ, который способен покончить с человеческой расой, может потребовать всего нескольких сотен человек в офисном здании в любом месте земного шара, без какого-либо особого оборудования, кроме ноутбуков.
Новые экзистенциальные угрозы не потребуют ресурсов целого государства для своего воплощения. Многие вещи, которые раньше требовали ресурсов всего государства — сооружение ракеты, например — теперь делается частными компаниями, по крайней мере, частично с применением программного обеспечения. Но ракета способна уничтожить что угодно на Земле.
Что мы можем сделать? Мы не можем запретить распространение этого знания и остаётся надеяться, что это сработает. Мы не можем остановить технологический прогресс.
Я думаю, что лучшая стратегия — законодательно ограничить важные элементы, но упорно работать для того, чтобы положительные выгоды от нашего использования технологии превышали выгоды, которые получают злоумышленники. Если можно синтезировать новые болезни, может быть, можно синтезировать вакцины. Если можно сделать плохой ИИ, может быть, можно сделать хороший ИИ, который остановит плохого.
Нынешняя стратегия в корне неверна. Чем раньше мы прекратим притворяться, что в этот раз всё будет как с ядерной бомбой, тем лучше. Просто удивительно, что мы не прилагаем серьёзных усилий для противостояния угрозам от синтетической биологии и ИИ.
Для ясности, я поддерживаю софтверную революцию и счастлив, что живу в это время. Но я беспокоюсь, что мы извлекли неправильные уроки из недавних примеров, и этим двум проблемам — массовому сокращению персонала и концентрации силы — уделяется недостаточно внимания.
Источинк: http://geektimes.ru/post/245978/
Комментарии
Отправить комментарий