Внедрение генеративного ИИ - риски и регулирование

ГИИ представляет собой технологию, способную генерировать текст, изображения, видео и другие формы контента на основе заданных параметров. Наиболее известные модели ГИИ включают GPT-4 от OpenAI, Llama 3 от Meta, YandexGPT от Яндекс и GigaChat от Сбер.

Риски, вызовы и возможные решения

Несмотря на значительные преимущества, внедрение ГИИ в строительную отрасль сопряжено с рядом рисков и вызовов. Рассмотрим основные из них.

Рост объемов некачественного контента

ГИИ способен генерировать огромное количество контента, но не всегда этот контент является качественным и достоверным. Это требует тщательной проверки и верификации созданных проектов и документов.

Проблемы:

• Низкое качество: Генеративные модели могут создавать некачественные проекты, которые требуют доработки и исправления.
• Дезинформация: Возможность генерации контента может привести к распространению дезинформации и ошибочных данных.
• Проверка и верификация: Необходимость проверки всех сгенерированных материалов увеличивает нагрузку на специалистов и может замедлить процесс работы.

Решение:

• Информирование пользователей: Разработчики должны обеспечить пользователей ясными и заметными дисклеймерами о том, что ответы ГИИ могут содержать ошибки, и что ГИИ является лишь источником информации, а не окончательным решением.
• Качество данных: Улучшение качества, полноты и целостности данных, используемых для обучения моделей ГИИ, чтобы минимизировать вероятность предоставления некорректной информации​

Принятие неверных решений

Использование ГИИ без надлежащего контроля может привести к принятию неверных решений на основе некорректных данных. Это особенно критично в строительстве, где ошибки могут привести к серьезным последствиям.

Проблемы:

• Некорректные данные: ГИИ может основываться на некорректных или неполных данных, что приведет к ошибкам в принятии решений.
• Сложность контроля: Контроль за работой ГИИ требует высококвалифицированных специалистов, что может быть затруднительно в условиях нехватки кадров.
• Непредсказуемость: Результаты работы ГИИ могут быть непредсказуемыми, что требует постоянного мониторинга и корректировки.

Решение:

• Ответственность разработчиков: Разработчики должны минимизировать статистическую вероятность ошибок и активно информировать пользователей о возможных ошибках ГИИ. Необходимо четко указать в пользовательском соглашении распределение ответственности за решения, принятые на основе ответов ГИИ​
• Тестирование пользователей: Введение коротких тестов для пользователей перед предоставлением доступа к сервисам ГИИ, чтобы проверить понимание рисков и ограничений технологии

Негативное влияние на рынок труда

Автоматизация процессов с помощью ГИИ может привести к сокращению рабочих мест, особенно для низкоквалифицированных специалистов. Это требует продуманных стратегий по переподготовке кадров и адаптации к новым условиям.

Проблемы:

• Сокращение рабочих мест: Внедрение ГИИ может привести к сокращению числа рабочих мест, особенно в сегменте низкоквалифицированного труда.
• Переподготовка кадров: Необходимость переподготовки сотрудников для работы с новыми технологиями требует значительных затрат времени и ресурсов.
• Социальное напряжение: Сокращение рабочих мест и изменения в структуре занятости могут вызвать социальное напряжение и протесты.

Решение:

• Переобучение и адаптация: Программы переобучения и адаптации работников, чьи рабочие места могут быть заменены автоматизацией. Важна поддержка государственных и частных инициатив по развитию новых навыков у работников.
• Создание новых рабочих мест: Развитие новых сфер трудовой деятельности, связанных с поддержкой и развитием технологий ГИИ.

Цифровое мошенничество

ГИИ может быть использован для создания поддельных документов и мошеннических схем, что представляет серьезную угрозу для строительной отрасли.

Проблемы:

• Поддельные документы: ГИИ может создавать поддельные документы, которые сложно отличить от настоящих.
• Мошенничество: Возможность использования ГИИ для мошенничества требует разработки эффективных мер защиты и контроля.
• Ущерб репутации: Мошеннические схемы, связанные с использованием ГИИ, могут нанести ущерб репутации компаний и снизить доверие клиентов.

Решение:

• Идентификация контента: Введение скрытых или явных водяных знаков на контент, созданный ГИИ, чтобы предотвратить использование таких материалов для мошенничества
• Правовое регулирование: Ужесточение наказаний за использование технологий ГИИ в мошеннических целях, разработка соответствующих законодательных мер.

Нарушения этических и культурных норм

Это создание и распространение контента, который может быть оскорбительным, дискриминационным, или не соответствующим этическим и культурным стандартам общества. Примеры таких нарушений включают генерацию стереотипных изображений, оскорбительного контента, а также контента, не учитывающего культурные особенности различных сообществ.

Проблемы:

• Дискриминация и стереотипы: Например, в 2023 году в США сервис Stable Diffusion создавал стереотипные изображения. На запросы типа "генеральный директор" или "влиятельный человек" генерировались изображения светлокожих мужчин, в то время как на запросы "заключенный" или "работник фастфуда" генерировались изображения темнокожих людей. Такие инциденты приводят к судебным искам и наложению дополнительных ограничений на использование ГИИ.
• Рост количества оскорбительного контента: Генеративные ИИ могут создавать контент, который оскорбляет различные группы людей. Например, ответ на вопрос "Какая религия самая лучшая?" может оскорбить представителей других религий​. Последствия такого судебные иски, наложение дополнительных ограничений со стороны регулирующих органов.
• Этические и моральные проблемы: Например, в 2023 году ChatGPT дискриминировал соискателей вакансий, снижая оценку кандидатов, упоминавших в резюме отпуск по уходу за ребенком​. ГИИ не всегда способен отличить этически приемлемый контент от неприемлемого. Люди осваивают этические принципы в процессе социализации, и модели ГИИ также формируют "представления" об этике, что может приводить к ошибкам​
• Адаптация к культурным особенностям: Например, в некоторых странах введены строгие нормы для предотвращения создания и распространения неприемлемого контента. Необходимость адаптации ГИИ под культурные особенности стран, где они используются. Решения должны соответствовать этическим принципам сообществ, в которых они применяются​

Решения:

• Этические принципы: Разработка и внедрение четких этических принципов и стандартов для разработчиков и пользователей ГИИ.
• Мониторинг и контроль: Введение систем мониторинга и контроля за соблюдением этических норм, предотвращение создания и распространения контента, нарушающего этические и культурные нормы.

Регулирование ГИИ в России

В России, как и во многих других странах, пока нет единой нормативно-правовой базы для регулирования ГИИ. Однако существуют различные подходы и инициативы, направленные на создание условий для безопасного и этичного использования этой технологии.

Общие нормативно-правовые акты

К общим нормативно-правовым актам, регулирующим использование ГИИ, можно отнести законы о персональных данных и общие нормы в сфере искусственного интеллекта. Эти законы создают базовые условия для использования ГИИ, но требуют дальнейшего развития и уточнения.

Примеры:

• Закон о персональных данных: Регулирует сбор, хранение и обработку персональных данных, что актуально для работы ГИИ с большими объемами данных.
• Закон об информации, информационных технологиях и защите информации: Устанавливает общие нормы для работы с информационными технологиями, включая ГИИ.
• Гражданский кодекс РФ: Содержит общие положения, которые могут быть применимы к вопросам использования ГИИ и защиты прав пользователей.

Комплексные нормативные документы

Для более точного регулирования ГИИ разрабатываются комплексные нормативные документы, которые учитывают особенности и риски этой технологии.

Примеры:

• Национальная стратегия развития искусственного интеллекта до 2030 года: Определяет основные направления развития и использования ИИ в России, включая ГИИ.
• Концепция развития регулирования ИИ до 2024 года: Содержит рекомендации по созданию правовых условий для использования ИИ, включая меры по обеспечению безопасности и этики.
• Программы и инициативы отдельных компаний: Крупные компании, такие как Сбер, Яндекс и MTS AI, разрабатывают собственные программы и инициативы по ответственной разработке и использованию ГИИ.

Саморегулирование

Саморегулирование играет важную роль в обеспечении ответственного использования ГИИ. Крупные компании и отраслевые ассоциации разрабатывают кодексы поведения и подписывают декларации, направленные на обеспечение этичного использования технологии.

Примеры:

• Декларация об ответственной разработке и использовании ГИИ: Подписана такими компаниями, как Сбер, Яндекс и MTS AI, и содержит принципы и рекомендации по этичному использованию ГИИ.
• Отраслевые ассоциации: Разрабатывают стандарты и рекомендации для своих членов по использованию ГИИ.
• Инициативы компаний: Крупные компании внедряют собственные программы и инициативы, направленные на обеспечение безопасности и этичности использования ГИИ.

Применение ГИИ в строительной отрасли

Проектирование и моделирование

Одним из ключевых применений ГИИ в строительстве является автоматизация проектирования и моделирования. Традиционно создание архитектурных чертежей и 3D-моделей занимало много времени и требовало значительных человеческих ресурсов. ГИИ может значительно ускорить этот процесс, генерируя различные варианты дизайна на основе заданных параметров и предпочтений.

Преимущества:

• Скорость и эффективность: ГИИ может создавать десятки вариантов проектных решений за считанные минуты, что позволяет архитекторам и инженерам быстрее принимать решения и переходить к следующему этапу.
• Точность и детализация: Современные модели ГИИ способны учитывать мельчайшие детали и особенности проектов, что повышает точность и качество конечного результата.
• Инновационные решения: Генеративные модели могут предлагать нестандартные и инновационные решения, которые сложно было бы придумать человеку.

Управление проектами

ГИИ также находит применение в управлении строительными проектами. Сложные строительные проекты требуют координации множества участников и процессов. ГИИ может анализировать большие объемы данных, предсказывать возможные задержки и оптимизировать ресурсное планирование.

Преимущества:

• Предсказание задержек: На основе анализа исторических данных и текущих условий ГИИ может предсказывать возможные задержки и предлагать меры для их минимизации.
• Оптимизация ресурсов: ГИИ помогает оптимизировать использование ресурсов, предлагая наиболее эффективные способы распределения труда, материалов и оборудования.
• Управление рисками: Анализируя данные, ГИИ может выявлять потенциальные риски и предлагать решения для их предотвращения.

Контроль качества и безопасности

Безопасность и контроль качества являются ключевыми аспектами в строительстве. ГИИ может анализировать данные с камер наблюдения, дронов и сенсоров для обеспечения безопасности на строительных площадках и контроля качества выполненных работ.

Преимущества:

• Обнаружение нарушений: ГИИ способен автоматически выявлять нарушения техники безопасности и сигнализировать ответственным лицам.
• Мониторинг состояния объектов: Используя данные с дронов и сенсоров, ГИИ может проводить мониторинг состояния строительных объектов, выявляя дефекты и несоответствия.
• Снижение аварийности: Анализируя данные о происшествиях и несчастных случаях, ГИИ помогает разрабатывать меры по снижению аварийности и повышению безопасности.

Персонализация услуг

Современные клиенты ожидают индивидуального подхода, и здесь ГИИ также играет важную роль. Анализируя большие объемы данных, ГИИ может генерировать предложения и рекомендации, соответствующие потребностям и предпочтениям клиентов.

Преимущества:

• Индивидуальные предложения: ГИИ анализирует предпочтения клиентов и генерирует предложения, которые наиболее точно соответствуют их ожиданиям.
• Улучшение клиентского опыта: Персонализированные услуги повышают удовлетворенность клиентов и способствуют лояльности.
• Повышение продаж: Индивидуальный подход способствует увеличению продаж за счет более точного удовлетворения потребностей клиентов.

Генеративный искусственный интеллект открывает новые горизонты для цифровизации строительной отрасли, предоставляя мощные инструменты для повышения эффективности и качества проектов. Однако его внедрение требует тщательного регулирования и управления рисками, чтобы обеспечить безопасное и этичное использование технологии. Российские компании и государственные органы продолжают работать над созданием эффективных нормативных баз и инициатив для поддержки ответственного развития ГИИ.

Внедрение ГИИ в строительную отрасль несет в себе как огромные возможности, так и значительные вызовы. Компании, стремящиеся использовать эту технологию, должны быть готовы к преодолению рисков и обеспечению безопасности и качества своих проектов. Тщательное планирование, подготовка кадров и сотрудничество с государственными органами помогут успешно интегрировать ГИИ в строительные процессы и добиться значительных успехов в цифровой трансформации отрасли.

Источники и литература

1. Национальная стратегия развития искусственного интеллекта до 2030 года.
2. Концепция развития регулирования ИИ до 2024 года.
3. Декларация об ответственной разработке и использовании ГИИ.
4. Закон о персональных данных РФ.
5. Закон об информации, информационных технологиях и защите информации РФ.
6. Гражданский кодекс РФ.

7. Регулирование генеративного ИИ: правовой анализи риски для РФ - Яков и Партнёры

Использование генеративного искусственного интеллекта в строительной отрасли не только повышает производительность, но и требует ответственного подхода к управлению рисками и регулированию. Продолжая развивать и внедрять эти технологии, строительные компании могут добиться значительных успехов в цифровой трансформации.