Визионеры

[bowhill]

Как вы знаете, вопросы искусственного интеллекта сейчас на большом подъёме. Ну может быть уже не на очень большом, но всё же. Люди ожидают искусственных водителей автомобилей, а так же решения всех проблем при помощи искусственного интеллекта, который, наконец, заменит интеллект естественный.

С вождением автомобиля есть объективные сложности. То есть понятно, и довольно давно, что есть классы задач и условия, которые позволяют решать проблемы в этой области. Например, система автоматического управления полётом и посадкой «Бурана» была создана ещё в восьмидесятых. И это довольно сложная система.

Для системы вождения автомобиля есть значительная часть всей задачи, скажем 80%, которая вполне может быть формализована и решена. Для многих разработчиков такое видение приводит к вполне привычной реакции: «да чё тут думать, щас сделаем». Остальное потом допилим.

Но получается, что оставшиеся, условно, 10% – это уже весьма сложные проблемы. А ещё десять или сколько-то процентов проблем – вообще неизвестно и непонятно как решать, постольку окружающий нас мир не формализован, ситуации и условия могут быть непредсказуемо разными. Во многих других проблемах программирования есть разные способы как игнорировать такие участки, но для вождения всё же надо решать задачу целиком. К тому же там и большие числа, и ущерб не виртуальный, и так далее.

То есть для решения неформализованных проблем вождения нужен искусственный интеллект, сопоставимый с человеческим. С другой стороны, у нас есть область деятельности ума – программирование – в которой формализации существенно больше. Люди оперируют спецификациями, интерфейсами, контекстно-независимыми грамматиками etc. К тому же эта область должна быть хорошо знакома самим разработчикам.

Так как вы думаете, как скоро получится создать вполне полноценного искусственного программиста?

Comments

[dmm]

В этом плане ничего существенного не было сделано до мая 2020-го, когда появилась GPT-3 и было продемонстрировано, что модели класса GPT-3, дополнительно натренированные на больших коллекциях компьютерного кода, могут генерировать фрагменты правильно работающего кода по лингвистическим намёкам...

С тех пор, это превратилось в линейку широко используемых продуктов, наиболее известным из которых является GitHub Copilot (based on OpenAI Codex), но там, видимо, не будет такого чёткого момента, что "вот сделали". Эти штуки будут уметь всё больше, их будут всё больше использовать, всё большая часть кода будет производиться ими, и это постепенно произойдёт (типичный процесс программирования достаточно толерантен к ошибкам, которые со временем исправляются, поэтому ситуация отлична от вождения машины; большая часть программирования не "safety critical", и уж точно не в "реальном времени"; с другой стороны, разнообразие программистских задач гораздо больше, чем разнообразие задач при вождении машины, и "не все задачи по силам всем программистам", так что там есть куда двигаться вверх в смысле компетентности).

Пока что, это, конечно, "программист-подмастерье", а не "полноценный программист". Но прогресс очень быстрый за последние два с половиной года (после десятилетий тупика).

[brmail]

На мой взгляд, решение проблем вождения автомобиля пошло не в ту сторону. Начинать надо было с разработки единого стандарта по коммуникации множества рядом едущих машин в mesh сеть, и обменом между ними информацией. Причем быстрым обменом, а не как сейчас процесс прицепления телефона к вайфай узлу может занимать десять и более секунд. Те идея получения машиной данных о том, как, куда, с какой скоростью едут машины вокруг и как они планируют менять направление движения в течении ближайших нескольких секунд.
Сейчас же все поставлено на то, что давайте обнаружим датчиками что там вокруг происходит, проанализируем что там радар показал, пропарсим что там видеокамеры принесли - все это хорошо, но оставляет мало времени на реакцию самой машины (не электронный вариант - рассчет и действие, а именно реакцию физической машины)

[bowhill]

Я весьма далёк от идеи, что ИИ вообще ничего не стоит и является какой-то профанацией и обманом зрения. Вовсе нет. И конечно, эта тематика в такого рода оценках просто не нуждается.

В терминах моделей, одной из существенных проблем научности и технологичности является проблема воспроизводимости. Когда же у нас нет понимания самого механизма решения и состояния модели, то мы не можем внятно судить и о воспроизводимости. Совпали результаты – хорошо, но непонятно. Не совпали – непонятно, но и не так что бы ясно – хорошо это или нет.

С программистом-подмастерьем тоже нет ничего плохого или недостойного, вообще-то большой успех, но могут быть разные моменты, например, возможный переход к ситуации, когда верификация (тем более модификация) результата станет дороже самой помощи. Второе – это качественные переходы. Их возможности, уровни, та же управляемость etc.

В основном же, запись была об ожиданиях широких масс населения, включая и ИТ-индустрию, что вот ещё немного, где-то потерпим, где-то надуем и появятся решения, которые всё изменят. И «вкалывают роботы, а не человек».

[bowhill]

На лосей и оленей тоже блютус повесим? :) Другие машины – это не единственные проблемы и они во многом (хотя и не во всём) помещаются в названные 80%.

Мне кажется, что это немного костылинг – подгонять внешний мир под наши технологические возможности и представления. Потом добавляются проблемы валидации достоверности и качества данных и снежный ком растёт дальше. При этом, сам обмен такими данными я бы, наверное, считал полезным.

[dmm]

> запись была об ожиданиях широких масс населения, включая и ИТ-индустрию, что вот ещё немного, где-то потерпим, где-то надуем и появятся решения, которые всё изменят

В среднем, люди считают, что до этого ещё довольно долго.

Но, на самом деле, это непонятно. Хорошие работы по пониманию того, как эти современные модели устроены внутри и как устроены принципы их работы, начали появляться только в прошлом году, а самые хорошие работы такого типа стали появляться буквально в последние месяцы.

Широкая публика про эти результаты знает мало (в них нет особого внешнего блеска, хотя многие из специалистов, конечно, в курсе). Но у нас пока нет большого опыта в том, чтобы взять эти новые работы, дающие новое понимание, и использовать их в приложениях; это только чуть-чуть начинают делать. Так что, трудно сказать, насколько быстро это приведёт к следующему витку качественных сдвигов.

> Второе – это качественные переходы. Их возможности, уровни, та же управляемость etc.

Вот это действительно совсем непонятно... Пока что, вроде бы, люди начинают больше беспокоиться по этому поводу... Но согласия на эту тему нет, и хорошего понимания тоже нет...

[brmail]

На лосей и оленей тоже блютус повесим?
Достаточно того, что машина впереди моей на 100 метров сообщит всем вокруг, что на обочине есть лось и он движется к дороге.
Еще раз - та сенсорная система неплоха, когда вокруг только дорога и одна машина. И согласитесь, это не общий случай. Общий случай - машин на дороге много или очень много

[selik]

Если я правильно понимаю, то технических проблем с автопилотом уже нет, тем более в сочетании с интеллектуальными транспортными системами. Проблемы исключительно юридические.
По мнению футурологов ИИ сможет заменить человека во всех сферах деятельности без исключения где-то через 50 лет, а до конца столетия гарантированно. Я с ними согласен. Если верить в божественную природу человека, то конечно же человек уникален и заменить его невозможно. Если же считать, что человек – это всего лишь программируемый биоробот (обучаемый интеллект), то нет ни малейших оснований думать, что ИИ не сможет его заменить.

[brmail]

Проблемы исключительно юридические.
Проблема не только юридическая. Проблема финансовая. Причем вызвана она нерешенными техническими проблемами.
Производители автопилота не хотят платить за то, что их машин насмерть поучаствует в дорожном столкновении, с другими машинами, пешеходами, со столбами или дорожным ограждением. Не уверены в том, что не поучаствует со смертельным исходом, скорее наоборот уверены, что такое будет.
Страховые кампании так же вероятно не будут страховать риски дешево, так как задавить кого-то насмерть это обычно дорого.

[bowhill]

Это скорее одна из нормальных особенностей, что у специалистов и у публики весьма разные представления. Для академических исследований направление в хорошей начальной форме, много интересного, начиная с изучения понимания что же происходит, определения способов оценки этого понимания и самого происходящего.

Тема ведь не просто сложная, мы про естественный интеллект мало что понимаем, а здесь создали что-то своё, другое, как-то что-то делающее и хотим разобраться в том, что же мы сделали. Возможно, нам нужны будут другие модели: для интерпретации, перевода работы, состояний и выводов рабочих моделей в понятный нам вид. Возможно объединение моделей в рефлексивные системы, ожидать можно разного.

Так что для исследований всё очень интересно в новой области. Для исследований, конечно, нужны средства. И здесь как раз появляется публика со своими ожиданиями. В уже практические проекты вкладываются деньги, соизмеримые с бюджетами средней страны. Вообще, сейчас как-то кучно пошло с технологическими ожиданиями. И это даёт нам некоторое представление о качестве оценки.

Пока что, вроде бы, люди начинают больше беспокоиться по этому поводу... Но согласия на эту тему нет, и хорошего понимания тоже нет...

Для этого и нужны исследования. Направление появилось с нуля, сравнивать не с чем; школы, науки ещё нет. Но будет, наверное.

[bowhill]

Ну, не совсем достаточно. И соглашусь, но на дороге вообще много всего, не только машин, что важно. И много что происходит, без сообщений и предупреждений. А машин действительно много, в Америке порядка трёхсот миллионов. И обычные в индустрии «недоработочки» становятся серьёзными проблемами. И здесь созданием Ады не обойдёшься. Тем более, сетевым стеком.

Идея была в том, что заранее формализуется что-то, но отнюдь не всё, а для формализации и оценки на ходу в реальной ситуации нужен интеллект высокого уровня, способный к работе с абстракциями и анализу.

[bowhill]

Я бы сказал, что рекламных проблем нет, а технических как раз много. Ну, или немного в смысле начать и кончить.

[selik]

Вообще-то всё вами перечисленное, это юридические проблемы. ИИ активно рулит в прямом смысле на железнодорожном транспорте, в сельском хозяйстве (закрытые частные территории) и на промышленных территориях, где всей этой юридической фигни нет.
ИИ уже и обычными авто управляет, но поскольку вся ответственность лежит на водителе, то он называется «помощник водителя».

[selik]

Проблем много, но и 50 лет - большой горизонт.
За прошедшие 50 лет по сути проделан путь от калькулятора до самообучающегося ИИ. На мой взгляд, это сложнее, чем оставшаяся часть. Тем более, что человеку в этом помогает сам ИИ.

[bowhill]

Первый токамак был построен почти 70 лет назад.

[selik]

Токамак – это вроде бы реактор, а не компьютер. Но суть коммента понятна.
Я немного о другом. До последнего времени всё программирование было, скажем так, примитивным. Компьютер – это просто быстрый калькулятор. Выполнял простейшие логические операции, но в очень большом количестве.
Последние 10 лет как бы полка в развитии, ничего особенного не происходит, нет видимого бурного развития. У меня комп 2010 года, не слабый для того времени, по-прежнему способен справиться с любыми моими повседневными и рабочими задачами, до этого компы надо было менять довольно часто. Такие полки говорят о том, что будет сильный рывок – переход количества в качество. В чём этот рывок?
Уже понятно, что рывок будет в направлении самообучающегося ИИ и переходе на нейросети. Они уже присутствуют в повседневной жизни, но пока далеко не повсеместно. Это принципиально иной уровень. И именно поэтому у вас возник вопрос об искусственном программисте. Сейчас главная проблема с самообучающимся ИИ – отсутствие стабильных результатов. Нужен комплекс тестовых заданий для обучения, тогда может быть все самообучающиеся машины обучатся одинаково, т.е. будет стабильность массового производства. Получается, что мы уходим от непосредственного кодирования и переходим к созданию учебных программ.
Тогда становится понятна и следующая полка, и следующий переход – это разумный ИИ. Разумный – это значит принимающий решения на основе своего собственного целеполагания, собственных желаний. На три закона робототехники ему будет искренне наплевать – разум никогда и никому не подчиняется. Собственно этого этапа все и боятся. Ожидается, что это случится где-то через 50 лет, но может и раньше.

[bowhill]

Нет, программирование не было примитивным. Даже во времена Ады Лавлейс. Программирование вообще-то не всегда похоже на работу с калькулятором. Современные программные системы содержат миллионы строчек кода и все эти объемы – не о вычислениях, а об управлении, программировании принятия решений, реакции системы в разных ситуациях. И проблемы программирования ИИ – это пока не проблемы интеллекта. Название области может вводить в заблуждение, как «жидкие гвозди» – не гвозди, а клей. Что такое интеллект, можем ли мы сами создавать что-то подобное – это проблемы которые ещё надо будет решить. А надежды на то, что искусственный интеллект как-нибудь сам себя придумает – это такие наши технические сказки.

Токамак я упомянул вот почему: в этой области мы знаем не всё, но существенно больше, чем в ИИ. И ожиданиям, что мы вот-вот, очень скоро получим огромное количество термоядерной энергии, безопасной и дешёвой, уже, как минимум, пятьдесят лет. У нас давно есть термоядерные бомбы, есть сложные и интересные реакторы на делении, но реакторов на синтезе нет.

Познание нелинейно, оно совсем не обязательно развивается равномерно и прямолинейно, с обязательным, гарантированным успехом через несколько лет. Проблема философского камня тоже казалась рациональной и близкой, но мы её так и не решили, за несколько веков.

[selik]

Прогнозы - дело неблагодарное. Зато имеет значение о чём люди мечтают (футурологи), какие планы строят (корпорации), какими вопросами задаются. Мечты превращаются в долгосрочные планы и чёткие ТЗ, а потом сбываются.
Не просто так вы задумались над искусственным программистом. Не удивлюсь, если кто-то уже старательно пишет ТЗ. После игры в го всё меньше желающих утверждать, что для ИИ что-то невозможно (на самом деле не для ИИ, а для людей, которые его создают). Тем более, что программы уже даже школьники пишут.
В детстве я считал на арифмометре (механический калькулятор весом примерно 6 кг), потом отец притащил с работы электронный калькулятор от розетки. Потом калькуляторы стали карманными, потом программируемыми, потом появились домашние компы, а сейчас смартфоны, биг дата, нейросети. Это в пределах одной жизни.
Посмотрел как было чуть раньше. За одну человеческую жизнь человечество прошло путь по сути от телеги до высадки на Луну.
Такие изменения осознать трудно. И ещё труднее представить, что же будет в будущем.

[bowhill]

Арифмометр «Феликс» начал производиться в 1890 году, «Энигма» – в 1918, и это совсем не первые машины, «Считающие часы» – 1623, «Паскалина» – 1642. Потом был переход от механики к реле, от Z1 к Z2 – это 1940 год. В ENIAC уже были лампы, БЭСМ-1 – лампы, БЭСМ-6 – уже транзисторы, это 1965 (М-50 – 1959). Потом транзисторы объединялись в сборки, интегральные схемы, литография улучшалась, транзисторов стало всё больше и больше. Весь этот путь люди уменьшали переключатели, упрощали и улучшали их работу. И очень продвинулись, но всё же рамках примерно одной парадигмы.

Двигатель Отто – это 1872 год, двигатели с тех пор улучшились, но мы остаёмся в рамках той же концепции. Полёт в космос (на Луну), конечно, отличается от ракет китайских фейрверков XII века, и даже от Фау-1; это уже случай уровня зрелости сразу весьма многих технологий: двигатели, управление, материалы, а так же мощности промышленности.

С искусственным интеллектом всё иначе.