Искусственный интеллект помогает Силиконовой долине вступить в момент «сингулярности»? К 2045 году интеллект человека может быть увеличен в 1 миллион раз
Многие эксперты считают, что огромный прогресс, достигнутый в области искусственного интеллекта, помогает Силиконовой долине вступить в момент сингулярности, и мы вот-вот вступим в радикальные, экспоненциальные и необратимые изменения.
Курцвейл, крупнейший сторонник теории сингулярности, предсказывает, что к 2030 году компьютерные системы пройдут тест Тьюринга и будут неотличимы от людей. Через пятнадцать лет наступит настоящая сингулярность, когда «вычисления станут частью нас, а наш интеллект возрастет в миллион раз».
Оппозиционные критики утверждают, что даже поразительный прогресс больших языковых моделей далек от бессмертной, долгой мировой мудрости, обещанной теорией сингулярности.
Изображение предоставлено: создано с помощью инструментов Unbounded AI.
В течение многих лет Силиконовая долина ждала появления новой технологии, которая изменит все. Он объединит людей и машины в высший разум и поставит точку в истории. Этот знаменательный момент известен как «сингулярность».
Это может произойти несколькими способами. Один из рисков заключается в том, что люди могут добавить вычислительную мощность ПК к своему врожденному интеллекту, превратив их самих в супермутантов. Или компьютерные системы могут стать настолько сложными, что они могут фактически предполагать, создавая мировой разум.
В обоих случаях последующие изменения могут быть радикальными, экспоненциальными и необратимыми. Сверхчеловеческая машина с самосознанием может разрабатывать собственные усовершенствования быстрее, чем любая группа ученых, вызывая взрыв интеллекта. Столетия прогресса могут быть достигнуты за годы или даже месяцы.
Искусственный интеллект делает беспрецедентные успехи в технологиях, бизнесе и политике. Прислушайтесь к преувеличенным заявлениям и диким предсказаниям из Силиконовой долины, кажется, что давно обещанный цифровой рай наконец-то в пределах досягаемости.
Сундар Пичаи, обычно сдержанный исполнительный директор Google, сказал, что влияние искусственного интеллекта «намного глубже, чем огонь, электричество или что-то еще, что мы делали раньше».
«Возможность вносить конструктивные изменения на этой планете вот-вот получит мощный импульс, как никогда раньше», — сказал миллиардер-инвестор Рейд Хоффман.
Соучредитель Microsoft Билл Гейтс (Invoice Gates) заявил, что искусственный интеллект «изменит то, как люди работают, учатся, путешествуют и получают медицинскую помощь, а также лучший способ общения друг с другом».
Однако здесь есть темный поворот. Это как если бы технологические компании выпустили беспилотные автомобили и предупредили, что они могут взорваться по пути в Walmart.
** Глава Twitter и Tesla Илон Маск сказал в интервью в прошлом месяце: «Появление всеобщего искусственного интеллекта называют сингулярностью, потому что трудно предсказать, что произойдет после этого». придет, но этот ОИИ также «может уничтожить человечество». **
В мире технологий самым большим сторонником искусственного интеллекта является Сэм Альтман, исполнительный директор OpenAI, стартапа, чей чат-бот ChatGPT вызвал нынешнее увлечение. Альтман сказал, что ИИ вполне может быть «лучшим финансовым расширением возможностей и обогащением многих людей, которые мы когда-либо видели». Маск критически относится к искусственному интеллекту, а также создал организации, занимающиеся разработкой интерфейсов мозг-компьютер.
В прошлом месяце Альтман подписал открытое письмо, спонсируемое некоммерческим Центром безопасности искусственного интеллекта, в котором говорилось, что «снижение риска исчезновения ИИ должно быть глобальным приоритетом» и что оно должно быть связано с «пандемиями и ядерной войной». Среди других подписантов — коллеги Альтмана по OpenAI, а также ученые из Microsoft и Google.
Тема «конца света» стала знакомой в Силиконовой долине, и многие люди даже стремятся ее обсудить. Несколько лет назад казалось, что у каждого крупного технического специалиста есть хорошо укомплектованный бункер конца света в отдаленном, но все еще доступном месте. В 2016 году Альтман заявил, что собирает «оружие, золото, йодистый калий, антибиотики, батарейки, воду, противогазы и район Биг-Сура, до которого можно добраться на самолете». это правильно. Теперь они готовятся к приходу сингулярности.
Истоки сингулярности
Корни идеи сингулярности можно проследить до Джона фон Неймана, ученого-первопроходца в области информатики, который в 1950-х годах говорил о том, как «постоянно ускоряющийся прогресс технологий» приведет к «некоторым из наиболее важных сингулярностей в человеческая история".
Британский математик Ирвинг Джон Гуд, который помог взломать немецкую кодовую систему Enigma в Блетчли-парке во время Второй мировой войны, также был сторонником теории сингулярности. «Выживание человечества будет зависеть от раннего развития сверхразумных машин», — писал он в 1964 году. Режиссер Стэнли Кубрик консультировал HAL по искусственному интеллекту в «2001: Домашняя одиссея» Гуда, это ранний пример размытых границ между информатика и научная фантастика.
Ханс Моравек, адъюнкт-профессор Института робототехники Университета Карнеги-Меллона, считает, что искусственный интеллект — это не только большое благо для людей, но и неодушевленные предметы также могут быть переработаны в сингулярности. В книге «Дети разума: будущее роботов и человеческого интеллекта» он пишет: «У нас будет возможность воссоздать прошлое и взаимодействовать с ним реальным и непосредственным образом».
Предприниматель и изобретатель Рэй Курцвейл всегда был самым большим сторонником теории сингулярности. Он написал много книг о сингулярности, в том числе «Эпоха разумных машин», опубликованную в 1990 году, «Сингулярность близко» в 2005 году, и в настоящее время пишет «Сингулярность ближе».
**Курцвейл предсказывает, что к 2030 году компьютерные системы пройдут тест Тьюринга и будут неотличимы от людей. По его оценке, через пятнадцать лет наступит настоящая сингулярность, когда «вычисления станут частью нас, а наш интеллект возрастет в миллион раз». К тому времени Курцвейлу может быть 97 лет. С помощью пищевых витаминов и пищевых добавок он надеется продолжать видеть, что будет дальше. **
Для некоторых критиков теории сингулярности воспроизведение систем восприятия в области программирования является сомнительной попыткой с интеллектуальной точки зрения. Родни Брукс, бывший директор Лаборатории компьютерных наук и искусственного интеллекта в Массачусетском технологическом институте, сказал: «Все они хотят жить вечно без неудобств, связанных с верой в бога».
Инновацией, которая в настоящее время вызывает споры об сингулярности, является появление больших языковых моделей, таких систем искусственного интеллекта, на которых работают чат-боты. В процессе общения с этими большими языковыми моделями он может быстро и связно предлагать решения.
«Когда вы задаете вопрос, эти модели объясняют, что он означает, определяют, что Он должен дать ответ, а затем переводят его в слова. Если это не естественный интеллект, что это?»
Каплан сказал, что скептически относится к разрекламированным чудесам, таким как беспилотные автомобили и криптовалюты. У него есть аналогичные опасения по поводу последнего роста искусственного интеллекта, но он говорит, что его убедили. «Если это не «сингулярность», то это, безусловно, революционный технологический взрыв, который в целом ускорит целый ряд искусств, наук и человеческих знаний, а также поставит множество вопросов», — сказал он.
Критики возражают, что даже поразительный прогресс больших языковых моделей далек от бессмертной, долговременной мировой мудрости, обещанной теорией сингулярности. Недостатком точного отделения рекламы от реальности является то, что двигатель, который управляет этой технологией, скрыт. Критики говорят, что OpenAI, который начинался как некоммерческая организация с открытым исходным кодом, а теперь стал коммерческим бизнесом, успешно превратился в черный ящик. Google и Microsoft также предлагают ограниченную видимость.
Большая часть анализа ИИ выполняется компаниями, и из результатов можно многое извлечь. Исследователи из Microsoft, инвестировавшей в OpenAI 13 миллиардов долларов, в статье, опубликованной в апреле, пришли к выводу, что последние модели OpenAI «демонстрируют многие характеристики интеллекта», включая «абстракцию, понимание, видение, кодирование» и «понимание человеческих мотивов и эмоций». .
Райлан Шеффер, доктор наук в области компьютерных наук в Стэнфордском университете, говорит, что некоторые исследователи ИИ неверно охарактеризовали то, как эти большие языковые модели демонстрируют «появляющиеся таланты», необъяснимые способности в меньших вариантах.
Шафер вместе с двумя коллегами из Стэнфорда, Брандо Мирандой и Санми Коеджо, исследовал этот вопрос в аналитической статье, опубликованной в прошлом месяце. Они пришли к выводу, что возникающий бум был «миражом», вызванным ошибками измерения. В IMPACT исследователи увидели то, что хотели увидеть.
Вечная жизнь и вечная прибыль
В Вашингтоне, Лондоне и Брюсселе законодатели обсуждают альтернативы и проблемы ИИ и начинают говорить о регулировании. Альтман сейчас находится в мировом турне, надеясь отразить раннюю критику и представить OpenAI как пастыря сингулярности.
Это включает в себя открытость для регулирования, хотя до сих пор нет четкой основы для того, как это сделать. Кремниевая долина часто утверждает, что правительства действуют слишком медленно, чтобы контролировать быстрое технологическое развитие. Бывший генеральный директор Google Эрик Шмидт сказал в недавнем интервью, что никто в правительстве не может добиться этого, и что, по его мнению, ИИ должен сам себя регулировать.
ИИ, сродни сингулярности, был описан как необратимая технологическая тенденция. «Чтобы остановить это, потребуется что-то вроде глобального режима регулирования, и даже это не гарантирует успеха», — написали Альтман и несколько его коллег в прошлом месяце, добавив, что если Силиконовая долина не может этого сделать, возможно, где-то еще.
Еще менее упоминается огромный доход от этого направления. Несмотря на все разговоры об искусственном интеллекте как о гигантской машине по созданию богатства, богатыми становятся только те, кто уже богат. Рыночная стоимость Microsoft в этом году взлетела до 500 миллиардов долларов. Nvidia считается одной из самых популярных публичных компаний в США благодаря растущему спросу на чипы искусственного интеллекта.
«Искусственный интеллект — это технология, которую мир всегда хотел, — написал Альтман в Твиттере. Действительно, это определенно технология, о которой технический мир всегда мечтал, достигнув абсолютно лучших времен. В прошлом году Силиконовая долина пострадала от увольнений и повышения процентных ставок, а ранее растущая криптовалютная сфера погрязла в мошенничестве и разочаровании.
Чарльз Стросс — соавтор романа «Мания ботаников», комедии, посвященной сингулярности. «Настоящее обещание здесь заключается в том, что компании получат возможность заменить свои ущербные, дорогие, медлительные подмодели ручной обработки информации на определенные программы, которые помогут решить проблемы и сократить накладные расходы», — сказал он.
Сингулярность всегда представлялась великим «космическим моментом», который волнует. Однако причина, по которой люди обсуждают сингулярность в настоящее время, может заключаться главным образом в том, что американские компании хотят сократить рабочую силу и одержимы увеличением прибыли. Выражаясь гиперболически, даже (недостижимый) рай может ждать вечно, когда вы (имея в виду предпринимателей) спешите увеличить свою рыночную капитализацию на триллионы долларов. (Текст / Джинлу)
Рекомендации:
Посмотреть Оригинал
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
Искусственный интеллект помогает Силиконовой долине вступить в момент «сингулярности»? К 2045 году интеллект человека может быть увеличен в 1 миллион раз
В течение многих лет Силиконовая долина ждала появления новой технологии, которая изменит все. Он объединит людей и машины в высший разум и поставит точку в истории. Этот знаменательный момент известен как «сингулярность».
Это может произойти несколькими способами. Один из рисков заключается в том, что люди могут добавить вычислительную мощность ПК к своему врожденному интеллекту, превратив их самих в супермутантов. Или компьютерные системы могут стать настолько сложными, что они могут фактически предполагать, создавая мировой разум.
В обоих случаях последующие изменения могут быть радикальными, экспоненциальными и необратимыми. Сверхчеловеческая машина с самосознанием может разрабатывать собственные усовершенствования быстрее, чем любая группа ученых, вызывая взрыв интеллекта. Столетия прогресса могут быть достигнуты за годы или даже месяцы.
Искусственный интеллект делает беспрецедентные успехи в технологиях, бизнесе и политике. Прислушайтесь к преувеличенным заявлениям и диким предсказаниям из Силиконовой долины, кажется, что давно обещанный цифровой рай наконец-то в пределах досягаемости.
Сундар Пичаи, обычно сдержанный исполнительный директор Google, сказал, что влияние искусственного интеллекта «намного глубже, чем огонь, электричество или что-то еще, что мы делали раньше».
«Возможность вносить конструктивные изменения на этой планете вот-вот получит мощный импульс, как никогда раньше», — сказал миллиардер-инвестор Рейд Хоффман.
Соучредитель Microsoft Билл Гейтс (Invoice Gates) заявил, что искусственный интеллект «изменит то, как люди работают, учатся, путешествуют и получают медицинскую помощь, а также лучший способ общения друг с другом».
Однако здесь есть темный поворот. Это как если бы технологические компании выпустили беспилотные автомобили и предупредили, что они могут взорваться по пути в Walmart.
** Глава Twitter и Tesla Илон Маск сказал в интервью в прошлом месяце: «Появление всеобщего искусственного интеллекта называют сингулярностью, потому что трудно предсказать, что произойдет после этого». придет, но этот ОИИ также «может уничтожить человечество». **
В мире технологий самым большим сторонником искусственного интеллекта является Сэм Альтман, исполнительный директор OpenAI, стартапа, чей чат-бот ChatGPT вызвал нынешнее увлечение. Альтман сказал, что ИИ вполне может быть «лучшим финансовым расширением возможностей и обогащением многих людей, которые мы когда-либо видели». Маск критически относится к искусственному интеллекту, а также создал организации, занимающиеся разработкой интерфейсов мозг-компьютер.
В прошлом месяце Альтман подписал открытое письмо, спонсируемое некоммерческим Центром безопасности искусственного интеллекта, в котором говорилось, что «снижение риска исчезновения ИИ должно быть глобальным приоритетом» и что оно должно быть связано с «пандемиями и ядерной войной». Среди других подписантов — коллеги Альтмана по OpenAI, а также ученые из Microsoft и Google.
Тема «конца света» стала знакомой в Силиконовой долине, и многие люди даже стремятся ее обсудить. Несколько лет назад казалось, что у каждого крупного технического специалиста есть хорошо укомплектованный бункер конца света в отдаленном, но все еще доступном месте. В 2016 году Альтман заявил, что собирает «оружие, золото, йодистый калий, антибиотики, батарейки, воду, противогазы и район Биг-Сура, до которого можно добраться на самолете». это правильно. Теперь они готовятся к приходу сингулярности.
Истоки сингулярности
Корни идеи сингулярности можно проследить до Джона фон Неймана, ученого-первопроходца в области информатики, который в 1950-х годах говорил о том, как «постоянно ускоряющийся прогресс технологий» приведет к «некоторым из наиболее важных сингулярностей в человеческая история".
Британский математик Ирвинг Джон Гуд, который помог взломать немецкую кодовую систему Enigma в Блетчли-парке во время Второй мировой войны, также был сторонником теории сингулярности. «Выживание человечества будет зависеть от раннего развития сверхразумных машин», — писал он в 1964 году. Режиссер Стэнли Кубрик консультировал HAL по искусственному интеллекту в «2001: Домашняя одиссея» Гуда, это ранний пример размытых границ между информатика и научная фантастика.
Ханс Моравек, адъюнкт-профессор Института робототехники Университета Карнеги-Меллона, считает, что искусственный интеллект — это не только большое благо для людей, но и неодушевленные предметы также могут быть переработаны в сингулярности. В книге «Дети разума: будущее роботов и человеческого интеллекта» он пишет: «У нас будет возможность воссоздать прошлое и взаимодействовать с ним реальным и непосредственным образом».
Предприниматель и изобретатель Рэй Курцвейл всегда был самым большим сторонником теории сингулярности. Он написал много книг о сингулярности, в том числе «Эпоха разумных машин», опубликованную в 1990 году, «Сингулярность близко» в 2005 году, и в настоящее время пишет «Сингулярность ближе».
**Курцвейл предсказывает, что к 2030 году компьютерные системы пройдут тест Тьюринга и будут неотличимы от людей. По его оценке, через пятнадцать лет наступит настоящая сингулярность, когда «вычисления станут частью нас, а наш интеллект возрастет в миллион раз». К тому времени Курцвейлу может быть 97 лет. С помощью пищевых витаминов и пищевых добавок он надеется продолжать видеть, что будет дальше. **
Для некоторых критиков теории сингулярности воспроизведение систем восприятия в области программирования является сомнительной попыткой с интеллектуальной точки зрения. Родни Брукс, бывший директор Лаборатории компьютерных наук и искусственного интеллекта в Массачусетском технологическом институте, сказал: «Все они хотят жить вечно без неудобств, связанных с верой в бога».
Инновацией, которая в настоящее время вызывает споры об сингулярности, является появление больших языковых моделей, таких систем искусственного интеллекта, на которых работают чат-боты. В процессе общения с этими большими языковыми моделями он может быстро и связно предлагать решения.
«Когда вы задаете вопрос, эти модели объясняют, что он означает, определяют, что Он должен дать ответ, а затем переводят его в слова. Если это не естественный интеллект, что это?»
Каплан сказал, что скептически относится к разрекламированным чудесам, таким как беспилотные автомобили и криптовалюты. У него есть аналогичные опасения по поводу последнего роста искусственного интеллекта, но он говорит, что его убедили. «Если это не «сингулярность», то это, безусловно, революционный технологический взрыв, который в целом ускорит целый ряд искусств, наук и человеческих знаний, а также поставит множество вопросов», — сказал он.
Критики возражают, что даже поразительный прогресс больших языковых моделей далек от бессмертной, долговременной мировой мудрости, обещанной теорией сингулярности. Недостатком точного отделения рекламы от реальности является то, что двигатель, который управляет этой технологией, скрыт. Критики говорят, что OpenAI, который начинался как некоммерческая организация с открытым исходным кодом, а теперь стал коммерческим бизнесом, успешно превратился в черный ящик. Google и Microsoft также предлагают ограниченную видимость.
Большая часть анализа ИИ выполняется компаниями, и из результатов можно многое извлечь. Исследователи из Microsoft, инвестировавшей в OpenAI 13 миллиардов долларов, в статье, опубликованной в апреле, пришли к выводу, что последние модели OpenAI «демонстрируют многие характеристики интеллекта», включая «абстракцию, понимание, видение, кодирование» и «понимание человеческих мотивов и эмоций». .
Райлан Шеффер, доктор наук в области компьютерных наук в Стэнфордском университете, говорит, что некоторые исследователи ИИ неверно охарактеризовали то, как эти большие языковые модели демонстрируют «появляющиеся таланты», необъяснимые способности в меньших вариантах.
Шафер вместе с двумя коллегами из Стэнфорда, Брандо Мирандой и Санми Коеджо, исследовал этот вопрос в аналитической статье, опубликованной в прошлом месяце. Они пришли к выводу, что возникающий бум был «миражом», вызванным ошибками измерения. В IMPACT исследователи увидели то, что хотели увидеть.
Вечная жизнь и вечная прибыль
В Вашингтоне, Лондоне и Брюсселе законодатели обсуждают альтернативы и проблемы ИИ и начинают говорить о регулировании. Альтман сейчас находится в мировом турне, надеясь отразить раннюю критику и представить OpenAI как пастыря сингулярности.
Это включает в себя открытость для регулирования, хотя до сих пор нет четкой основы для того, как это сделать. Кремниевая долина часто утверждает, что правительства действуют слишком медленно, чтобы контролировать быстрое технологическое развитие. Бывший генеральный директор Google Эрик Шмидт сказал в недавнем интервью, что никто в правительстве не может добиться этого, и что, по его мнению, ИИ должен сам себя регулировать.
ИИ, сродни сингулярности, был описан как необратимая технологическая тенденция. «Чтобы остановить это, потребуется что-то вроде глобального режима регулирования, и даже это не гарантирует успеха», — написали Альтман и несколько его коллег в прошлом месяце, добавив, что если Силиконовая долина не может этого сделать, возможно, где-то еще.
Еще менее упоминается огромный доход от этого направления. Несмотря на все разговоры об искусственном интеллекте как о гигантской машине по созданию богатства, богатыми становятся только те, кто уже богат. Рыночная стоимость Microsoft в этом году взлетела до 500 миллиардов долларов. Nvidia считается одной из самых популярных публичных компаний в США благодаря растущему спросу на чипы искусственного интеллекта.
«Искусственный интеллект — это технология, которую мир всегда хотел, — написал Альтман в Твиттере. Действительно, это определенно технология, о которой технический мир всегда мечтал, достигнув абсолютно лучших времен. В прошлом году Силиконовая долина пострадала от увольнений и повышения процентных ставок, а ранее растущая криптовалютная сфера погрязла в мошенничестве и разочаровании.
Чарльз Стросс — соавтор романа «Мания ботаников», комедии, посвященной сингулярности. «Настоящее обещание здесь заключается в том, что компании получат возможность заменить свои ущербные, дорогие, медлительные подмодели ручной обработки информации на определенные программы, которые помогут решить проблемы и сократить накладные расходы», — сказал он.
Сингулярность всегда представлялась великим «космическим моментом», который волнует. Однако причина, по которой люди обсуждают сингулярность в настоящее время, может заключаться главным образом в том, что американские компании хотят сократить рабочую силу и одержимы увеличением прибыли. Выражаясь гиперболически, даже (недостижимый) рай может ждать вечно, когда вы (имея в виду предпринимателей) спешите увеличить свою рыночную капитализацию на триллионы долларов. (Текст / Джинлу)
Рекомендации: