Полевые записки с форума по искусственному интеллекту в Сколково, на котором присутствует А.Филатов

http://sk.ru/foundation/events/november2016/ai/


- неравенство в доступе к технологиям во многом вызвано неравенством в доступе к базам данным, потому что обучение нейросетей идет именно на них;
- неочевидные математические проблемы: после обучения непонятно, как работает нейронная сеть и почему дает именно этот ответ;
- проблема вагонетки для беспилотного автомобиля показывает, что не смотря на то, что этика не воспринимается, как технологический барьер, тем не менее, именно эту проблему не решить обучением нейронных сетей. И в целом это проблема курицы и яйца;
- этические нормы меняются согласно технологическим нормам. Когда-то мы не могли помыслить о вопросы "Какой у тебя генотип?" – сегодня этот вопрос вполне уместен в некоторых кругах;
- Человеческие интеллект размазан по 7 миллиардам людей. Из-за большого количества профессий разная онтология. Но мы находим общий язык благодаря социальным инстинктам;
- Любая катастрофа будет всемирной катастрофой из-за глобальности мира. Потеря управления ИИ, например.
- Чтобы добиться распознавания 99% кошечек, сколько картинок кошечек нужно ввести? Хватило всего лишь 10 миллионов.
- Сейчас можно и нужно перейти к конструированию общего искусственного интеллекта;
- Сильный ИИ появится в течение 3-5 лет (прогноз от Виталия Львовича Дунина-Барковского);
- Примеры подобных технологических прорывов: тоннельный микроскоп, графен, высокотемпературная сверхпроводимость.
- до сих пор общий ИИ не сделан, потому что для тех кто финансирует исследования он не является самоценным, они задают вопросы "А что он может сделать?", "А как он нам поможет?".
- Если вы возьмете много нейронов, чтобы было много входов и один выход, так чтобы связи между ними могли меняться так, чтобы не было ошибок, то на конечном отрезке времени такая система станет работать без ошибок. При этом не важен тип этих нейронов. И вникать в работу этих нейронов бессмысленно.
- мы не можем переделать людей - трудно спорить с миллионами лет эволюции. Задача дизайнеров интерфейсов и инженеров - делать желания людей понятными, а непонятное - понятным.

Продолжение следует…