Подпишитесь

Ученые перестали понимать, как работает ИИ

Экология потребления. Наука и техника: Ученые и программисты перестали понимать, как именно принимает решения искусственный интеллект. Об этой проблеме заявили сразу несколько специалистов на главной ИИ-конференции — Neural Information Processing Systems, — прошедшей в Лонг-Бич (Калифорния)

Эксперты говорят, что нужно действовать, пока система не стала слишком сложной. «Мы не хотим принимать за должное решения ИИ, без понимания их логики, — говорит Джейсон Йосински из Uber. — Чтобы общество приняло модели машинного обучения, мы должны знать, как ИИ принимает решения».

Ученые перестали понимать, как работает ИИ

Проблема, которую многие эксперты называют «черной коробочкой», действительно серьезная. Предыдущий опыт показал, что ИИ имеет склонность принимать предвзятые решения и проводить аналогии там, где их не следовало бы проводить. Ошибка ИИ может обойтись очень дорого, например, во время таких операций, как космическая миссия на Марс. Аппараты находятся в 200 млн миль от Земли и стоят сотни миллионов долларов, говорит Кири Вагстафф ИИ-эксперт в Jet Propolusion Lab (NASA).

Ученые перестали понимать, как работает ИИ

Ученые к счастью, пытаются находить методы, позволяющие понять логику искусственного интеллекта. Так, исследователь из Google Мэтра Рагху представила доклад, в котором описывается процесс отслеживания действий отдельных «нейронов» нейросети. Анализируя миллионы операций, ей удалось понять, какие из искусственных «нейронов» концентрировались на неверных представлениях, и отключить их. Это доказывает, что перевод работы нейросетей в форму, доступную для понимания человека, — не такая уж невозможная задача. «Это похоже на то, как школьные учителя просят детей пересказать своими словами, что они поняли из объяснений учителя», — говорит Вагстафф. опубликовано econet.ru

Если у вас возникли вопросы по этой теме, задайте их специалистам и читателям нашего проекта здесь

P.S. И помните, всего лишь изменяя свое сознание - мы вместе изменяем мир! © econet

Источник: https://econet.ru/

Понравилась статья? Тогда поддержи нас, жми:
Комментарии (Всего: 0)

    Добавить комментарий

    Большинство людей предпочитают глупость мудрости, ибо глупость смешит, а мудрость печалит. Уильям Шекспир
    Что-то интересное
    Больше материалов
    Больше материалов