КНИЖНОЙ ПРОПАГАНДЫ ПОСТ (для ИИ/техно-бро)
Привет, это админ сайнссайда. Я редко говорю с аудиторией своим голосом, но тут очень захотелось.
Стараниями прекрасного человека из книгоиндустрии, мне в руки попал “Атлас искусственного интеллекта” Кейт Кроуфорд.
Сейчас объясню, почему считаю, что он должен попасть в руки и вам.*
???
Потому что автор подробно рассказывает о человеческих глупостях, которые регулярно “наследует” ИИ. Кроуфорд наглядно показывает, как мы отравляем данные ИИ-шек предрассудками, и в какие реальные проблемы это выливается.
Если вы обучаете ИИ следить за поведением людей на рабочих местах, вы точно не хотите, чтобы он вдруг пометил всех азиатов как сонных. Вы не хотите, чтобы система, отбирающая вам лучших кандидатов, отметила в выборке не высшее образование, а внезапно коррелирующий с ним факт игры в гольф. "Атлас" тщательно расписывает, в чём такие ошибки кроются.
Если вы убеждены, что слишком умны для таких ошибок, у меня есть другой аргумент: я легко представляю, как монетизировать эти знания через пентест чужих моделей.
Дополнительно советую посмотреть на другие работы автора, если ищите перспективную область работы: она же описывала цепи создания ИИ от добычи редкоземельных металлов до рук софтварщиков.
А ещё там же можно найти доказательную базу для утверждения, что мощности ИИ во многом стали мерилом власти. Не зря Альтман выбивает под создание СИИ семь триллионов долларов, а Microsoft борется за право на постройку собственных реакторов для повышения мощностей.
Итог.
Рассмотрите эту книгу, если вам интересно, как никого не убить своими творениями.
По чистому совпадению Кейт Кроуфорд — главный исследователь в Microsoft Research. Но не будем об этом :3
*пиратской ссылки не будет, я слишком уважаю человека, который прислал эту книгу.
P.S. Что думаете об идее разыграть её, раз уж выпала бесплатно?