В технологиях и возможностях компьютерных систем происходят ошеломляюще быстрые изменения. Есть впечатляющие достижения в области искусственного интеллекта, в массе крошечных взаимосвязанных устройств, которые мы называемИнтернет вещей и беспроводная связь.

К сожалению, эти улучшения несут не только пользу, но и потенциальную опасность. Чтобы обеспечить безопасное будущее, нам необходимо предвидеть, что может произойти в сфере вычислений, и решить эту проблему как можно раньше. Итак, что, по мнению экспертов, произойдет и что мы можем сделать, чтобы предотвратить серьезные проблемы?

Чтобы ответить на этот вопрос, наша исследовательская группа из университетов Ланкастера и Манчестера обратилась к науке заглядывания в будущее, которая называется «прогнозированием». Никто не может предсказать будущее, но мы можем составлять прогнозы: описания того, что может произойти, на основе текущих тенденций.

Действительно, долгосрочные прогнозы технологических тенденций могут оказаться удивительно точными . А отличный способ получить прогнозы — объединить идеи множества разных экспертов, чтобы найти, в чем они совпадают.

Мы проконсультировались с 12 экспертами-футуристами по поводу новой исследовательской работы. Это люди, в чьи обязанности входит долгосрочное прогнозирование последствий изменений в компьютерных технологиях к 2040 году.

Используя метод, называемый исследованием Дельфи , мы объединили прогнозы футуристов в набор рисков вместе с их рекомендациями по устранению этих рисков.

Проблемы с программным обеспечением

Эксперты предсказывали быстрый прогресс в области искусственного интеллекта (ИИ) и связанных систем, который приведет к гораздо более управляемому компьютерами миру, чем сейчас. Удивительно, однако, что они ожидали небольшого эффекта от двух широко разрекламированных инноваций: блокчейн , способ записи информации, который делает невозможным или трудным манипулирование системой, по их предположению, по большей части не имеет отношения к сегодняшним проблемам; а квантовые вычисления все еще находятся на ранней стадии и могут оказать незначительное влияние в ближайшие 15 лет.

Футуристы выделили три основных риска, связанных с разработками в области компьютерного программного обеспечения.

Конкуренция ИИ приводит к проблемам

Наши эксперты предположили, что позиция многих стран в отношении ИИ как области, в которой они хотят получить конкурентное технологическое преимущество, побудит разработчиков программного обеспечения идти на риск при использовании ИИ. Это, в сочетании со сложностью ИИ и его способностью превосходить человеческие способности, может привести к катастрофам.

Например, представьте, что упрощения при тестировании приводят к ошибке в системах управления автомобилей, построенных после 2025 года, которая остается незамеченной на фоне всего сложного программирования ИИ. Это может даже быть связано с конкретной датой, в результате чего большое количество автомобилей начнет вести себя хаотично одновременно, что приведет к гибели многих людей по всему миру.

Генеративный ИИ

Генеративный ИИ может сделать невозможным определение истины. В течение многих лет фотографии и видео было очень сложно подделать, поэтому мы ожидаем, что они подлинные. Генеративный ИИ уже радикально изменил эту ситуацию. Мы ожидаем, что его способность создавать убедительные фейковые медиа улучшится, поэтому будет чрезвычайно сложно определить, является ли то или иное изображение или видео реальным .

Предположим, кто-то, пользующийся доверием (уважаемый лидер или знаменитость), использует социальные сети для демонстрации подлинного контента, но иногда включает в себя убедительные фейки. Для тех, кто последует за ними, не будет возможности определить разницу — невозможно будет узнать правду.

Невидимые кибератаки

Наконец, явная сложность систем, которые будут построены — сети систем, принадлежащих различным организациям и зависящих друг от друга, — имеет неожиданные последствия. Станет трудно, если не невозможно, понять причину, по которой дела идут не так.

Представьте себе, что киберпреступник взламывает приложение, используемое для управления такими устройствами, как духовки или холодильники, в результате чего все устройства включаются одновременно. Это приводит к резкому увеличению спроса на электроэнергию в сети, что приводит к крупным перебоям в подаче электроэнергии.

Экспертам энергетических компаний будет сложно определить, какие именно устройства вызвали всплеск, не говоря уже о том, чтобы определить, что все они контролируются одним и тем же приложением. Киберсаботаж станет невидимым, и его будет невозможно отличить от обычных проблем.

Программное джиу-джитсу

Цель подобных прогнозов – не посеять тревогу, а дать возможность приступить к решению проблем. Возможно, самым простым предложением, предложенным экспертами, было своего рода программное джиу-джитсу: использование программного обеспечения для защиты и защиты от самого себя. Мы можем заставить компьютерные программы выполнять собственные проверки безопасности, создав дополнительный код, проверяющий выходные данные программы — по сути, код, который проверяет сам себя .

Точно так же мы можем настаивать на том, чтобы методы, уже используемые для обеспечения безопасной работы программного обеспечения, продолжали применяться и к новым технологиям. И что новизна этих систем не используется как предлог для игнорирования надлежащей практики безопасности.

Стратегические решения

Но эксперты согласились, что одних технических ответов будет недостаточно. Вместо этого решения будут найдены во взаимодействии между людьми и технологиями.

Нам необходимо развивать навыки, необходимые для решения этих проблем человеческих технологий , а также новые формы образования, пересекающие дисциплины. Правительствам необходимо установить принципы безопасности для собственных закупок ИИ и принять законы, обеспечивающие безопасность ИИ во всем секторе, поощряя ответственные методы разработки и внедрения.

Эти прогнозы дают нам ряд инструментов для решения возможных проблем будущего. Давайте воспользуемся этими инструментами, чтобы реализовать захватывающие перспективы нашего технологического будущего.