5345
1
28 июня 09:00
Время чтения 8 минут

Внедрение генеративного ИИ - риски и регулирование

Цифровая трансформация затрагивает все сферы деятельности, и строительная отрасль не исключение. В последние годы наблюдается значительный рост применения инновационных технологий, среди которых особо выделяется генеративный искусственный интеллект

Внедрение генеративного ИИ - риски и регулирование

ГИИ представляет собой технологию, способную генерировать текст, изображения, видео и другие формы контента на основе заданных параметров. Наиболее известные модели ГИИ включают GPT-4 от OpenAI, Llama 3 от Meta, YandexGPT от Яндекс и GigaChat от Сбер.

Риски, вызовы и возможные решения

Несмотря на значительные преимущества, внедрение ГИИ в строительную отрасль сопряжено с рядом рисков и вызовов. Рассмотрим основные из них.

Рост объемов некачественного контента

ГИИ способен генерировать огромное количество контента, но не всегда этот контент является качественным и достоверным. Это требует тщательной проверки и верификации созданных проектов и документов.

Проблемы:
  • Низкое качество: Генеративные модели могут создавать некачественные проекты, которые требуют доработки и исправления.
  • Дезинформация: Возможность генерации контента может привести к распространению дезинформации и ошибочных данных.
  • Проверка и верификация: Необходимость проверки всех сгенерированных материалов увеличивает нагрузку на специалистов и может замедлить процесс работы.

Решение:

  • Информирование пользователей: Разработчики должны обеспечить пользователей ясными и заметными дисклеймерами о том, что ответы ГИИ могут содержать ошибки, и что ГИИ является лишь источником информации, а не окончательным решением.
  • Качество данных: Улучшение качества, полноты и целостности данных, используемых для обучения моделей ГИИ, чтобы минимизировать вероятность предоставления некорректной информации​

Принятие неверных решений

Использование ГИИ без надлежащего контроля может привести к принятию неверных решений на основе некорректных данных. Это особенно критично в строительстве, где ошибки могут привести к серьезным последствиям.

Проблемы:
  • Некорректные данные: ГИИ может основываться на некорректных или неполных данных, что приведет к ошибкам в принятии решений.
  • Сложность контроля: Контроль за работой ГИИ требует высококвалифицированных специалистов, что может быть затруднительно в условиях нехватки кадров.
  • Непредсказуемость: Результаты работы ГИИ могут быть непредсказуемыми, что требует постоянного мониторинга и корректировки.

Решение:

  • Ответственность разработчиков: Разработчики должны минимизировать статистическую вероятность ошибок и активно информировать пользователей о возможных ошибках ГИИ. Необходимо четко указать в пользовательском соглашении распределение ответственности за решения, принятые на основе ответов ГИИ​
  • Тестирование пользователей: Введение коротких тестов для пользователей перед предоставлением доступа к сервисам ГИИ, чтобы проверить понимание рисков и ограничений технологии

Негативное влияние на рынок труда

Автоматизация процессов с помощью ГИИ может привести к сокращению рабочих мест, особенно для низкоквалифицированных специалистов. Это требует продуманных стратегий по переподготовке кадров и адаптации к новым условиям.

Проблемы:
  • Сокращение рабочих мест: Внедрение ГИИ может привести к сокращению числа рабочих мест, особенно в сегменте низкоквалифицированного труда.
  • Переподготовка кадров: Необходимость переподготовки сотрудников для работы с новыми технологиями требует значительных затрат времени и ресурсов.
  • Социальное напряжение: Сокращение рабочих мест и изменения в структуре занятости могут вызвать социальное напряжение и протесты.

Решение:

  • Переобучение и адаптация: Программы переобучения и адаптации работников, чьи рабочие места могут быть заменены автоматизацией. Важна поддержка государственных и частных инициатив по развитию новых навыков у работников.
  • Создание новых рабочих мест: Развитие новых сфер трудовой деятельности, связанных с поддержкой и развитием технологий ГИИ.

Цифровое мошенничество

ГИИ может быть использован для создания поддельных документов и мошеннических схем, что представляет серьезную угрозу для строительной отрасли.

Проблемы:
  • Поддельные документы: ГИИ может создавать поддельные документы, которые сложно отличить от настоящих.
  • Мошенничество: Возможность использования ГИИ для мошенничества требует разработки эффективных мер защиты и контроля.
  • Ущерб репутации: Мошеннические схемы, связанные с использованием ГИИ, могут нанести ущерб репутации компаний и снизить доверие клиентов.

Решение:

  • Идентификация контента: Введение скрытых или явных водяных знаков на контент, созданный ГИИ, чтобы предотвратить использование таких материалов для мошенничества
  • Правовое регулирование: Ужесточение наказаний за использование технологий ГИИ в мошеннических целях, разработка соответствующих законодательных мер.

Нарушения этических и культурных норм

Это создание и распространение контента, который может быть оскорбительным, дискриминационным, или не соответствующим этическим и культурным стандартам общества. Примеры таких нарушений включают генерацию стереотипных изображений, оскорбительного контента, а также контента, не учитывающего культурные особенности различных сообществ.

Проблемы:

  • Дискриминация и стереотипы: Например, в 2023 году в США сервис Stable Diffusion создавал стереотипные изображения. На запросы типа "генеральный директор" или "влиятельный человек" генерировались изображения светлокожих мужчин, в то время как на запросы "заключенный" или "работник фастфуда" генерировались изображения темнокожих людей. Такие инциденты приводят к судебным искам и наложению дополнительных ограничений на использование ГИИ.
  • Рост количества оскорбительного контента: Генеративные ИИ могут создавать контент, который оскорбляет различные группы людей. Например, ответ на вопрос "Какая религия самая лучшая?" может оскорбить представителей других религий​. Последствия такого судебные иски, наложение дополнительных ограничений со стороны регулирующих органов.
  • Этические и моральные проблемы: Например, в 2023 году ChatGPT дискриминировал соискателей вакансий, снижая оценку кандидатов, упоминавших в резюме отпуск по уходу за ребенком​. ГИИ не всегда способен отличить этически приемлемый контент от неприемлемого. Люди осваивают этические принципы в процессе социализации, и модели ГИИ также формируют "представления" об этике, что может приводить к ошибкам​
  • Адаптация к культурным особенностям: Например, в некоторых странах введены строгие нормы для предотвращения создания и распространения неприемлемого контента. Необходимость адаптации ГИИ под культурные особенности стран, где они используются. Решения должны соответствовать этическим принципам сообществ, в которых они применяются​

Решения:

  • Этические принципы: Разработка и внедрение четких этических принципов и стандартов для разработчиков и пользователей ГИИ.
  • Мониторинг и контроль: Введение систем мониторинга и контроля за соблюдением этических норм, предотвращение создания и распространения контента, нарушающего этические и культурные нормы.

Регулирование ГИИ в России

В России, как и во многих других странах, пока нет единой нормативно-правовой базы для регулирования ГИИ. Однако существуют различные подходы и инициативы, направленные на создание условий для безопасного и этичного использования этой технологии.

Общие нормативно-правовые акты

К общим нормативно-правовым актам, регулирующим использование ГИИ, можно отнести законы о персональных данных и общие нормы в сфере искусственного интеллекта. Эти законы создают базовые условия для использования ГИИ, но требуют дальнейшего развития и уточнения.

Примеры:
  • Закон о персональных данных: Регулирует сбор, хранение и обработку персональных данных, что актуально для работы ГИИ с большими объемами данных.
  • Закон об информации, информационных технологиях и защите информации: Устанавливает общие нормы для работы с информационными технологиями, включая ГИИ.
  • Гражданский кодекс РФ: Содержит общие положения, которые могут быть применимы к вопросам использования ГИИ и защиты прав пользователей.
Комплексные нормативные документы

Для более точного регулирования ГИИ разрабатываются комплексные нормативные документы, которые учитывают особенности и риски этой технологии.

Примеры:
  • Национальная стратегия развития искусственного интеллекта до 2030 года: Определяет основные направления развития и использования ИИ в России, включая ГИИ.
  • Концепция развития регулирования ИИ до 2024 года: Содержит рекомендации по созданию правовых условий для использования ИИ, включая меры по обеспечению безопасности и этики.
  • Программы и инициативы отдельных компаний: Крупные компании, такие как Сбер, Яндекс и MTS AI, разрабатывают собственные программы и инициативы по ответственной разработке и использованию ГИИ.
Саморегулирование

Саморегулирование играет важную роль в обеспечении ответственного использования ГИИ. Крупные компании и отраслевые ассоциации разрабатывают кодексы поведения и подписывают декларации, направленные на обеспечение этичного использования технологии.

Примеры:
  • Декларация об ответственной разработке и использовании ГИИ: Подписана такими компаниями, как Сбер, Яндекс и MTS AI, и содержит принципы и рекомендации по этичному использованию ГИИ.
  • Отраслевые ассоциации: Разрабатывают стандарты и рекомендации для своих членов по использованию ГИИ.
  • Инициативы компаний: Крупные компании внедряют собственные программы и инициативы, направленные на обеспечение безопасности и этичности использования ГИИ.

Применение ГИИ в строительной отрасли

Проектирование и моделирование

Одним из ключевых применений ГИИ в строительстве является автоматизация проектирования и моделирования. Традиционно создание архитектурных чертежей и 3D-моделей занимало много времени и требовало значительных человеческих ресурсов. ГИИ может значительно ускорить этот процесс, генерируя различные варианты дизайна на основе заданных параметров и предпочтений.

Преимущества:
  • Скорость и эффективность: ГИИ может создавать десятки вариантов проектных решений за считанные минуты, что позволяет архитекторам и инженерам быстрее принимать решения и переходить к следующему этапу.
  • Точность и детализация: Современные модели ГИИ способны учитывать мельчайшие детали и особенности проектов, что повышает точность и качество конечного результата.
  • Инновационные решения: Генеративные модели могут предлагать нестандартные и инновационные решения, которые сложно было бы придумать человеку.
Управление проектами

ГИИ также находит применение в управлении строительными проектами. Сложные строительные проекты требуют координации множества участников и процессов. ГИИ может анализировать большие объемы данных, предсказывать возможные задержки и оптимизировать ресурсное планирование.

Преимущества:
  • Предсказание задержек: На основе анализа исторических данных и текущих условий ГИИ может предсказывать возможные задержки и предлагать меры для их минимизации.
  • Оптимизация ресурсов: ГИИ помогает оптимизировать использование ресурсов, предлагая наиболее эффективные способы распределения труда, материалов и оборудования.
  • Управление рисками: Анализируя данные, ГИИ может выявлять потенциальные риски и предлагать решения для их предотвращения.
Контроль качества и безопасности

Безопасность и контроль качества являются ключевыми аспектами в строительстве. ГИИ может анализировать данные с камер наблюдения, дронов и сенсоров для обеспечения безопасности на строительных площадках и контроля качества выполненных работ.

Преимущества:
  • Обнаружение нарушений: ГИИ способен автоматически выявлять нарушения техники безопасности и сигнализировать ответственным лицам.
  • Мониторинг состояния объектов: Используя данные с дронов и сенсоров, ГИИ может проводить мониторинг состояния строительных объектов, выявляя дефекты и несоответствия.
  • Снижение аварийности: Анализируя данные о происшествиях и несчастных случаях, ГИИ помогает разрабатывать меры по снижению аварийности и повышению безопасности.
Персонализация услуг

Современные клиенты ожидают индивидуального подхода, и здесь ГИИ также играет важную роль. Анализируя большие объемы данных, ГИИ может генерировать предложения и рекомендации, соответствующие потребностям и предпочтениям клиентов.

Преимущества:
  • Индивидуальные предложения: ГИИ анализирует предпочтения клиентов и генерирует предложения, которые наиболее точно соответствуют их ожиданиям.
  • Улучшение клиентского опыта: Персонализированные услуги повышают удовлетворенность клиентов и способствуют лояльности.
  • Повышение продаж: Индивидуальный подход способствует увеличению продаж за счет более точного удовлетворения потребностей клиентов.

Генеративный искусственный интеллект открывает новые горизонты для цифровизации строительной отрасли, предоставляя мощные инструменты для повышения эффективности и качества проектов. Однако его внедрение требует тщательного регулирования и управления рисками, чтобы обеспечить безопасное и этичное использование технологии. Российские компании и государственные органы продолжают работать над созданием эффективных нормативных баз и инициатив для поддержки ответственного развития ГИИ.

Внедрение ГИИ в строительную отрасль несет в себе как огромные возможности, так и значительные вызовы. Компании, стремящиеся использовать эту технологию, должны быть готовы к преодолению рисков и обеспечению безопасности и качества своих проектов. Тщательное планирование, подготовка кадров и сотрудничество с государственными органами помогут успешно интегрировать ГИИ в строительные процессы и добиться значительных успехов в цифровой трансформации отрасли.

Источники и литература

  1. Национальная стратегия развития искусственного интеллекта до 2030 года.
  2. Концепция развития регулирования ИИ до 2024 года.
  3. Декларация об ответственной разработке и использовании ГИИ.
  4. Закон о персональных данных РФ.
  5. Закон об информации, информационных технологиях и защите информации РФ.
  6. Гражданский кодекс РФ.
  7. Регулирование генеративного ИИ: правовой анализи риски для РФ - Яков и Партнёры

Использование генеративного искусственного интеллекта в строительной отрасли не только повышает производительность, но и требует ответственного подхода к управлению рисками и регулированию. Продолжая развивать и внедрять эти технологии, строительные компании могут добиться значительных успехов в цифровой трансформации.

Евгений Рес
На сайте с 2022 года
Обсуждение темы
Отправить
  • Наоритянка
    Наоритянка

    Сначала искусственный интеллект показался очень полезным и нужным, для нас он пишет презентации, создает картинки, пишет технические задания, но с приходом его в жизнь, стала осознавать, что это больше зло, чем добро, например, подделка твоих фотографий, голоса и даже видео, только представьте, что если он начнёт это использовать сам, без тех людей, которые это ему показывают, а читая такие материалы я больше убеждаюсь в этом! Я считаю, что бесполезно что-то регулировать. Я молчу про многие рабочие места. Я не тот человек который препятствует технологии как это раньше было, мне часто говорят, что это также как и тогда когда пришла автоматизация, но нет это совершенно другое.

    28.06.2024, 10:38