Сунак объявляет об открытии Института безопасности искусственного интеллекта на фоне призывов к мораторию на перспективное развитие технологии

Риши Сунак объявил о создании «первого в мире» британского института безопасности искусственного интеллекта.

В преддверии глобального турнира на следующей неделе саммит Что касается безопасности ИИ, премьер-министр заявил, что институт будет тестировать новые типы ИИ на предмет целого ряда рисков — от создания дезинформации до создания экзистенциальной угрозы.

Организация будет стремиться «расширять мировые знания о безопасности ИИ».

«Он будет тщательно изучать, оценивать и тестировать новые типы ИИ, чтобы мы поняли, на что способна каждая новая модель», — сказал Сунак в своем выступлении в Королевском обществе, ассоциации ведущих ученых.

Институт будет «изучать все риски, от социального вреда, такого как предвзятость и дезинформация, до самых экстремальных рисков из всех».

Безопасность искусственного интеллекта активно обсуждается с тех пор, как в ноябре прошлого года эта технология стала предметом широкого обсуждения, когда был создан инструмент обработки естественного языка. ЧатGPT.

Согласно Согласно последним доступным данным, ChatGPT в настоящее время насчитывает более 100 миллионов пользователей, а веб-сайт посещает один миллиард посетителей в месяц.

Но в марте Италия объявлено она временно заблокировала ChatGPT из соображений конфиденциальности данных, став первой западной страной, принявшей такие меры против популярного чат-бота с искусственным интеллектом.

Опасения по поводу быстрого развития систем искусственного интеллекта побудили даже миллиардера Теслу и Твиттер Босс Илон Маск присоединится к сотням экспертов, выразивших обеспокоенность по поводу развития мощных систем искусственного интеллекта.

В письме, опубликованном Институтом будущего жизни, растущая обеспокоенность о развитии ИИ, заявив: «Их следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски будут управляемыми».

Сунак, ярый сторонник преимуществ ИИ, до сих пор поддерживает довольно терпимый подход к его развитию.

В марте его правительство опубликовало Белая бумага излагая свою позицию по поводу этой технологии.

В нем говорилось, что вместо принятия законодательства оно готовится потребовать от компаний соблюдения пяти «принципов» при разработке ИИ.

В этом случае отдельным регулирующим органам будет предоставлена ​​возможность разрабатывать правила и практику.

И сегодня премьер-министр еще раз усилил эту точку зрения, заявив, что «пауза в разработке мощных моделей невозможна».

«Я не думаю, что это практично или осуществимо. В принципе, Великобритания справедливо является экономикой и обществом, которое поощряет инновации ради всей пользы, которую они могут принести. И я думаю, что это правильный подход».

Прототип института безопасности, который, как надеется правительство, станет средством международного сотрудничества в области безопасности ИИ, уже существует в виде британской пограничной целевой группы по ИИ, которая тщательно изучает безопасность передовых моделей ИИ и была создана в этом году. .

Между тем, недавнее применение этой технологии также привело к революционным научным и медицинским достижениям.

Например, исследователи развитый система искусственного интеллекта (ИИ), которая может помочь врачам обнаруживать рак.

Использование технологий искусственного интеллекта в диагностике и лечении в Национальной системе здравоохранения становится все более частым. В прошлом месяце правительство Великобритании объявлено 21 миллион фунтов стерлингов будет инвестирован в разработки искусственного интеллекта в Национальной системе здравоохранения.

Финансирование, которое будет полностью доступно к концу 2023 года, позволит NHS Trusts ускорить внедрение наиболее перспективных инструментов искусственного интеллекта в больницах, чтобы помочь лечить пациентов предстоящей зимой.

Саммит искусственного интеллекта, который пройдет в Блетчли-парке в Букингеме, цели рассмотреть риски, связанные с ИИ, особенно на переднем крае развития, и обсудить, как их можно смягчить посредством скоординированных на международном уровне действий.

Но ранее на этой неделе документ, подписанный 23 техническими экспертами заявлено было «совершенно безрассудно» разрабатывать еще более мощные системы искусственного интеллекта, не понимая, как сделать их безопасными.

И сегодня Сунак заявил, что до сих пор неясно, примет ли Китай участие в саммите, несмотря на то, что Пекин получил приглашение принять участие вместе с руководителями технологических компаний, экспертами и другими мировыми лидерами.

Премьер-министр заявил, что не может сказать со «100-процентной уверенностью», присоединятся ли китайские чиновники.

Лиз Трасс, предшественница Сунака, усилила давление на присутствие Китая в четверг, попросив премьер-министра отменить приглашение, предупредив, что Пекин использовал технологии для нападения на «свободу и демократию».