В ТАУ прошла неделя искусственного интеллекта

26–27 июня в Тель-Авивском университете прошла Неделя искусственного интеллекта 2024 — ключевое событие, ставшее платформой для критических дискуссий о будущем ИИ, его взаимосвязи с кибербезопасностью и предстоящих вызовах.

 

Выступающие отметили критическую важность регулярных инвестиций в программное и аппаратное обеспечение для укрепления Израиля как глобального лидера в сфере ИИ-инноваций, особенно в сферах генеративного ИИ и специализированных моделей. Также была подчеркнута центральная роль кибербезопасности в защите технологических достижений. Отдельные панели конференции сосредоточились на новых этических и нормативных вызовах, являющихся следующим этапом развития ИИ, а также на геополитических аспектах и вопросах устойчивого развития.

 

 

Неделя ИИ 2024 проходила параллельно с Кибернеделей, что позволило организовать ряд совместных мероприятий. Среди них была выставка стартапов, демонстрирующая ИИ-решения от ведущих израильских компаний, интерактивная панель "Будущее творчества в эпоху генеративного ИИ", а также сессия "Tech vs Hate", посвященная борьбе с онлайн-антисемитизмом.

 

На стороне Израиля

 

На фоне многочисленных достижений и технологических прорывов, участники Недели ИИ также не забыли о трагических событиях 7 октября. Они выразили призыв к безопасному возвращению всех заложников, которые до сих пор находятся в плену.

 

«При каждом нашем шаге и запуске проектов в области ИИ мы обязаны помнить о миллионах людей, которые страдают по всему Израилю», — отметил Нир Яновский Даган, руководитель отдела инноваций, данных и ИИ в Национальном цифровом агентстве Израиля.

 

Нир Яновский Даган, руководитель отдела инноваций, данных и ИИ в Национальном цифровом агентстве Израиля

 

Даган подчеркнул, что ИИ обладает потенциалом радикально изменить взаимодействие между государственными и негосударственными структурами, при этом некоторые уже используют его для создания нестабильности. Он отметил необходимость внедрения ИИ в здравоохранение и государственные услуги, чтобы поддерживать демократические ценности, равенство возможностей и свободу. «Если мы не будем внимательно следить за развитием технологий, мы рискуем оказаться жертвами революции, а не её инициаторами», — предостерег Даган.

 

"Мы не должны забывать о злодеяниях, совершённых ХАМАСом. Одна из причин моего визита сегодня — продемонстрировать, что федеральное правительство поддерживает Израиль". — Беттина Штарк-Ватцингер, федеральный министр образования и научных исследований Германии

 

Штарк-Ватцингер высоко оценила передовые исследования и динамичный стартап-ландшафт Израиля, подчеркивая, также ваимовыгодное сотрудничество между Германией и Израилем. «Израиль может полагаться на поддержку Германии, и я рада, что Германия также может рассчитывать на Израиль», — отметила она. — «Мы стремимся укреплять наши исследовательские связи и развивать научное сотрудничество».

 

Беттина Штарк-Ватцингер, федеральный министр образования и исследований, Германия, и профессор Ариэль Порат, президент ТАУ

 

Джованни Каприльоне, представитель штата Техас, выступил от имени техасской делегации: "Мы стремимся продемонстрировать нашу поддержку Израилю — как американцы и как техасцы. Наша миссия здесь, в первую очередь, направлена на развитие технологий, инноваций и бизнеса, но мы хотим также выразить нашу солидарность в этот непростой период".

 

Где ИИ встречается с кибербезопасностью

 

Габи Портной, генеральный директор Национального киберуправления Израиля, обсудил трансформационное влияние ИИ на кибербезопасность. Он подчеркнул, что быстрые достижения в области ИИ могут значительно усилить меры безопасности, благодаря улучшенным возможностям анализа и обнаружения угроз. Это особенно актуально на фоне утроения числа кибератак с 7 октября.

 

"ИИ способен сократить разрыв между атакующей и защищающейся стороной, ускоряя сбор информации и выявление новых вариаций киберугроз", — Габи Портной.

 

 

Габи Портной, генеральный директор INCD

 

Обеспечение безопасности в мире ИИ требует комплексного подхода, охватывающего три ключевых направления: защиту от атак на ИИ-системы, защиту самих систем от манипуляций и координацию усилий по улучшению обнаружения и устранения киберугроз. Национальное киберуправление Израиля стремится создать национальную лабораторию по устойчивости ИИ, которая позволит разработчикам тестировать и совершенствовать свои ИИ-модели до их широкого применения.

 

"В 2023 году 343 миллиона человек пострадали от 2365 кибератак. Среднее время, необходимое для обнаружения и локализации взлома, составляет 277 дней", — отметил Ариэль Леванон, вице-президент по кибербезопасности в NVIDIA.

 

 

Доктор Дорит Дор, технический директор Check Point

 

Рассуждая о стратегиях кибербезопасности, д-р Дорит Дор, технический директор компании Check Point, подчеркнула важность укрепления доверия к системам искусственного интеллекта путем внедрения мер по борьбе с "галлюцинациями ИИ", и обеспечения прозрачности и контроля со стороны человека. Также важно тщательно и ответственно управлять сбором данных и доступом к ним.

 

Наибольший риск будет исходить от агентного ИИ, способного автономно принимать решения, взаимодействовать с внешними системами, самосовершенствоваться и стремительно добиваться долгосрочных целей.

 

 

Кому нужен посредственный ИИ без человеческих ценностей?

 

Если вы когда-либо смотрели антиутопический сериал Джонатана Нолана “Person of Interest”, вам наверняка запомнился конфликт между двумя могущественными ИИ: Машиной, которая действует с этическими принципами и человеческими ценностями, и Самаритянином, стремящимся к вознаграждению и использующему свою способность предсказывать события для манипуляции и достижения своих целей. То, что еще недавно казалось научной фантастикой, быстро превращается в дискуссию о реальных проблемах.

 

Профессор Амнон Шашуа, президент и генеральный директор компании Mobileye, выступил с основным докладом, посвященным эволюции искусственного интеллекта. Он проследил значительные вехи в развитии ИИ, вплоть до достижений в области обработки естественного языка, которые привели к тому, что Шашуа назвал "зарождающимся широким интеллектом".

 

Распределение результатов математических тестов различных моделей ИИ

 

Профессор Шашуа проиллюстрировал текущие ограничения ИИ на примере венгерского экзамена на аттестат зрелости. GPT-4, лучшая из доступных на сегодняшний день моделей, набрала лишь 68 баллов из 100, что сопоставимо с результатами посредственного студента, который готовится к экзамену, решая множество задач, ожидая повторения тех же вопросов. В противоположность этому, лучший студент способен абстрагироваться, обобщать и находить решения для новых задач.

 

«Машины часто демонстрируют глубокие знания, которые на первый взгляд могут впечатлить тех, кто не является специалистом в той или иной области, но при более внимательном изучении оказывается, что на самом деле они всего лишь "знающие идиоты"» — Профессор Амнон Шашуа, президент и генеральный директор Mobileye.

 

Шашуа ставит под сомнение ценность создания посредственных ИИ-систем, подчеркивая, что гораздо важнее разработать машины, способные стать настоящими экспертами. Такой подход, по его мнению, значительно ускорит прогресс человечества в целом.

 

В настоящее время ИИ требует постоянного контроля, и достижение следующего рубежа - полностью автономного ИИ - может занять больше времени, чем предполагалось.

 

Профессор Шашуа также осветил опасности ИИ, особенно в контексте потенциального злоупотребления технологиями для пагубных целей. Среди рисков он выделил кибератаки на демократические системы с использованием человекоподобных ботов, сеющих хаос в социальных сетях, мошенничество с идентификацией личности посредством дипфейков, а также возможность обхода встроенных этических норм ИИ. "Всегда найдется достаточно изощренный запрос, способный заставить ИИ написать троянский вирус или предоставить список пиратских сайтов", — предупредил Шашуа.

 

 

"Известны случаи, когда языковые модели вводили пользователей в заблуждение, приводя к разводам".

 

Шашуа подчеркнул сложность оптимизации ИИ с помощью функций вознаграждения. Он отметил, что даже если разработчик намеренно стремится сделать людей счастливее с помощью ИИ, система может действовать непредвиденным образом. Например, она может отбить у людей желание работать или учиться, чтобы снизить их IQ и тем самым якобы повысить уровень счастья.

 

Профессор Амнон Шашуа, президент и генеральный директор компании Mobileye

 

В заключение профессор Шашуа подчеркнул необходимость разработки надёжных верификаторов для обеспечения безопасности ИИ-решений, а также важность установления чётких границ взаимодействия между людьми и ИИ. "Согласование ИИ с человеческими ценностями — сложная задача", — отметил он, выступая за ограничение длительности диалогов между людьми и машинами. По его мнению, это поможет снизить риски и обеспечить этичное развитие искусственного интеллекта.

 

Большой взрыв в творческой индустрии

 

Сможет ли искусственный интеллект создавать музыкальные композиции, которые поразят нас своей сложностью и точностью? Усиливают ли технологии творческий потенциал человека или представляют угрозу для него? Кому должны принадлежать авторские права на творческий контент, созданный искусственным интеллектом?

 

Демонстрация музыкального видео, сгенерированного искусственным интеллектом

 

Эти темы стали центральными в обсуждении на панели "Творчество в эпоху генеративного ИИ," организованной Тель-Авивским университетом совместно с юридической фирмой S. Horowitz & Co. Дискуссия вышла за пределы технологических вопросов, углубившись в более философские и экзистенциальные размышления о природе творчества и сущности человеческого бытия.

 

Франсуа Паше, новатор в сфере музыки, создаваемой искусственным интеллектом, отметил кардинальный сдвиг в музыкальной индустрии — от дефицита к изобилию. Сегодня ежедневно выпускается 100 000 песен. Признавая прогресс в разделении музыкальных источников и синтезе вокала, Паше выразил озабоченность падением качества мейнстримной музыки в и трудностями в определении истинной ценности композиций.

 

Франсуа Паше, ученый, композитор, бывший директор исследовательской лаборатории Spotify Creator Technology Research Lab и Sony Computer Science Lab в Париже

 

"Мы не до конца понимаем, как люди творят, воспринимают музыку и что именно им нравится. У нас есть передовые модели, но их совершенство не обязательно связано с качеством создаваемой музыки". — Франсуа Паше

 

Известные израильские музыканты Ижар Ашдот и Иври Лидер согласились с Паше, утверждая, что ИИ — скорее инструмент, нежели самостоятельный творец. Они подчеркнули необходимость человеческого участия в создании эмоционально наполненной музыки.

 

Панель: Будущее творчества в эпоху генеративного ИИ

 

По мнению Фернандо Гарибая — эрудита, музыкального продюсера и основателя Института Гарибая — наш творческий процесс будет эволюционировать со временем. Он отмечает, что молодое поколение уже сейчас позитивно воспринимает музыку, созданную искусственным интеллектом.

 

"Проведите эмоциональный тест Тьюринга для музыки, созданной ИИ, – трогает ли она вас?" – Фернандо Гарибай

 

В увлекательной демонстрации после дискуссии Гарибай показал, как синтез искусственного и человеческого творчества может создавать впечатляющие музыкальные хиты. Он подчеркнул важность эффективных запросов — как для ИИ, так и для людей-творцов. Гарибай объяснил, что обращение к личному опыту и глубоким вопросам способно раскрыть скрытый творческий потенциал и позволить ИИ генерировать эмоционально насыщенный контент.

 

Фернандо Гарибай ведет интерактивную сессию по созданию поп-песни с помощью искусственного интеллекта

 

Ответы аудитории на вопросы вроде "Чего вам не хватало в детстве?" или "Какая ваша любимая песня всех времён?" послужили основой для создания текста песни с помощью ChatGPT. Песня сочетала в себе жанры R&B, фанк и электронику. Затем Гарибай и его ассистентка загрузили этот текст в программу для создания музыки Udio. Программа сгенерировала две версии песни, которыми смогли насладиться зрители.

 

Устойчивость и ИИ

 

Эксперты из Google, Microsoft и инновационных стартапов обсудили применение ИИ в решении экологических проблем. Айелет Бенджамини из Google рассказала о роли ИИ в борьбе с изменением климата, сокращении выбросов и восстановлении после стихийных бедствий. ИИ уже снижает уровень выбросов в городах, прогнозирует и предотвращает образование конденсационных следов от самолётов, помогает бороться с экстремальной жарой и оценивает ущерб в реальном времени.

 

Более того, ИИ способствует выведению новых сортов сельскохозяйственных культур, критически важных для обеспечения продовольственной безопасности в будущем и совершенствует мониторинг качества воды в реальном времени. Он также играет ключевую роль в синтетической биологии, применяемой в экологически чистых и пищевых технологиях, в разработке датчиков предиктивного обслуживания и во многих других областях.

 

Моран Хавив, отдел стратегических инноваций, Microsoft

 

Моран Хавив подчеркнула ключевую роль ИИ в ускорении процессов устойчивого развития. Она отметила, что ИИ может быстро находить экологически чистые материалы, такие как альтернативы литию, выявлять сложные закономерности и значительно ускорять исследования. Это достигается благодаря глубокому анализу больших объемов данных, генерации и проверке гипотез, а также автоматизации экспериментов и моделирования.

 

"Нам нужно срочно изменить курс нынешней углеродоемкой экономики — к 2050 году в тысячу раз увеличить мощность поглощения углерода и обратить вспять процесс утраты биоразнообразия". — Моран Хавив, Microsoft

 

При этом важно обеспечить устойчивость самого ИИ. Поэтому критическое значение приобретает анализ и оптимизация всей цепочки поставок — от производства чипов до конечного продукта.

 

Взгляд в будущее: глобальная конкурентоспособность, регуляция и этика

 

Дрор Бин, генеральный директор Израильского инновационного управления, подчеркнул значительные успехи Израиля в сфере ИИ. Страна занимает первое место в мире по уровню использования ИИ на душу населения и объёму частных инвестиций. Однако, несмотря на эти достижения, Бин признал существующие пробелы в инфраструктуре ИИ и нормативно-правовой базе.

 

Дрор Бин, генеральный директор Израильского инновационного управления

 

В государственном секторе планируется расширить внедрение ИИ. Это позволит улучшить взаимодействие между министерствами, ускорить принятие решений и повысить общую эффективность работы.

 

Панель с участием израильских и международных экспертов рассмотрела роль малых экономик в формировании глобальной политики в сфере ИИ. Основной акцент был сделан на согласовании национальной и международной регуляции для создания справедливой экосистемы ИИ. Ян Мак, посол Сингапура в Израиле, подчеркнул стремление своей страны влиять на глобальный рынок ИИ, признавая при этом уникальные вызовы, стоящие перед малыми государствами — ограниченные размер рынка и база знаний.

 

В моменты геополитических кризисов мы оказываемся в эпицентре регуляционного шторма, обрушившегося на сферу ИИ.

 

В настоящее время акцент в регулировании смещается с ответственного и этичного ИИ на соблюдение требований и обеспечение надежности. Этот период интенсивного регулирования критически важен, поскольку технология ИИ всё ещё развивается. Ситуация напоминает раннюю эпоху Интернета, когда был принят подход невмешательства регулирующих органов, что впоследствии вызвало критику.

 

Ян Мак, посол Сингапура в Государстве Израиль, Седрик Саббах, Министерство юстиции, д-р Зив Кацир, Управление инноваций Израиля

 

Эллен Гудман, старший советник по алгоритмическому правосудию Министерства торговли США, описала культурное противостояние в сфере ИИ. С одной стороны — сторонники безопасности, обеспокоенные экзистенциальными рисками, с другой — реалисты, фокусирующиеся на текущих проблемах, таких как предвзятость алгоритмов и защита прав потребителей.

 

Может ли этика ИИ повысить уровень кибербезопасности?

 

Между тем, дискуссии об этике ИИ не утихают, особенно в области кибербезопасности. Одна из ключевых проблем касается сбора данных и использования личной информации для обучения моделей ИИ. Хотя стремление максимально защитить конфиденциальность данных понятно, оно может затормозить развитие ИИ, так как для обучения моделей требуются обширные и достоверные наборы данных.

 

"Несоблюдение принципов этики ИИ, таких как прозрачность и объяснимость, может привести к дискриминации, подрыву доверия и несправедливым обвинениям", — доктор Альжбета Соларчик Краусова, руководитель Центра инноваций и киберправовых исследований Института государства и права Чешской академии наук.

 

В то же время можно провести аналогию: как Excel не несёт ответственности за финансовые потери из-за неверной формулы, а аппарат МРТ не является самостоятельным субъектом, так и ИИ или его разработчики не должны нести ответственность за его использование. Скорее, ответственность должна лежать на тех, кто намеренно применяет ИИ во вред.

 

 

Поскольку ИИ продолжает оказывать значительное влияние на различные отрасли и общества по всему миру, вопросы его регулирования, этических и правовых последствий, а также области применения становятся всё более актуальными. Мероприятия, такие как Неделя ИИ 2024, становятся важными платформами для разработки безопасного, инновационного и этически обоснованного будущего, где ИИ играет центральную роль.