Сообщается, что Samsung слил свои секреты через ChatGPT • Реестр

Менее чем через три недели после того, как Samsung сняла запрет на использование ChatGPT для сотрудников, чеболь, как сообщается, как минимум трижды раскрыл свои собственные секреты, в том числе конфиденциальную информацию о полупроводниках, находящихся в разработке.

Запрет изначально предназначался для защиты данных компании, но был снят 11 марта, чтобы повысить производительность и заинтересовать сотрудников новейшими крутыми техническими инструментами в мире.

Согласно сообщению местных корейских СМИ, эти просочившиеся секреты включают в себя измерения оборудования и данные о производительности от решения для устройств конгломерата и бизнес-подразделения по полупроводникам.

Один сотрудник сказал местному изданию, что они скопировали весь проблемный исходный код программы загрузки полупроводниковой базы данных, ввели его в ChatGPT и спросили о решении.

Другой загрузил программный код, предназначенный для выявления неисправного оборудования, а третий загрузил записи встречи в попытке автоматически сгенерировать протокол.

В часто задаваемых вопросах ChatGPT говорится: «Ваши разговоры могут быть просмотрены нашими инструкторами по искусственному интеллекту для улучшения наших систем».

Таким образом, секреты Samsung могут быть доступны для OpenAI — организации, проявляющей более чем мимолетный интерес к технологиям и делам корейского гиганта.

Как сообщается, после того, как инциденты были обнаружены, Samsung применила «экстренные меры», которые включают ограничение емкости загрузки до 1024 байтов на вопрос.

«Если подобная авария произойдет даже после принятия экстренных мер по защите информации, доступ к ChatGPT в сети компании может быть заблокирован», — предупредили сотрудников руководители Samsung.

Чеболь уже предупредил своих сотрудников, чтобы они не разглашали конфиденциальную информацию, когда снял полный запрет на ChatGPT. OpenAI также предостерегает от загрузки конфиденциальных данных.

Начиная с 1 марта этого года политика OpenAI требует, чтобы пользователи API соглашались делиться данными для обучения или улучшения своих моделей, в то время как службы, не относящиеся к API, такие как ChatGPT или DALL-E, требуют от пользователя отказа, чтобы избежать используются их данные.

«Мы удаляем любую личную информацию из данных, которые мы намерены использовать для повышения производительности модели. Мы также используем только небольшую выборку данных для каждого клиента в наших усилиях по улучшению производительности модели», — заявляет OpenAI.

Местные СМИ сообщают, что Samsung в настоящее время рассматривает возможность создания собственной службы искусственного интеллекта, чтобы предотвратить дальнейшие инциденты.

Рег попросил Samsung подтвердить детали этой истории, но на момент написания не получил ответа.

В соответствии с Корея ТаймсИнцидент потряс отечественные технологические компании, в том числе производитель микросхем SK hynix и компанию по производству потребительского оборудования LG Display, которые в настоящее время работают над рекомендациями по использованию чат-ботов с искусственным интеллектом.

Сообщается, что SK hynix заблокировала использование чат-ботов в своей внутренней сети, и сотрудники, желающие использовать эту услугу, должны получить разрешение службы безопасности. LG Display, по-видимому, решила провести образовательную кампанию, чтобы ее сотрудники поняли, как защищать секреты компании.

Предположительно, первый шаг — «не загружайте их на чужой веб-сайт». ®