Khi hoạt động hàng tháng của ChatGPT tăng vọt lên mốc 1 tỷ, "chuyến du lịch toàn cầu" của người sáng lập OpenAI Sam Altman cũng thu hút sự chú ý.
Tuần này, SamAltman đã đến Đại học Tel Aviv ở Israel và thực hiện một cuộc phỏng vấn sâu và sống động với Ilya Sutskavel, nhà khoa học trưởng của OpenAI, người lớn lên ở Israel (hai người hiếm khi ở cùng một sân khấu). cho các từ khi được hỏi, và nó đáng để lắng nghe.
Quan điểm cốt lõi:
**1. Ưu điểm của OpenAI: **Chúng tôi tập trung hơn vào những gì chúng tôi làm và văn hóa của chúng tôi tập trung vào sự đổi mới nghiêm ngặt và có thể lặp lại.
2. Vị trí của học viện trong AI: Học viện từng đi đầu trong nghiên cứu AI, nhưng điều này đã thay đổi do sức mạnh tính toán yếu hơn và thiếu văn hóa kỹ thuật. Nhưng giới hàn lâm vẫn có thể đóng góp quan trọng cho AI, giải quyết nhiều bí ẩn của mạng lưới thần kinh mà chúng ta đang đào tạo.
**3. Nguồn mở hay không phải nguồn mở: **Chúng tôi đã mở nguồn một số mô hình và dự định mở nguồn nhiều mô hình hơn, nhưng chúng tôi không nghĩ rằng đó không phải là chiến lược đúng đắn để mở nguồn tất cả các mô hình và chúng tôi đang nỗ lực làm việc để tìm sự cân bằng.
**4. Những rủi ro không thể bỏ qua trong AI: ** Việc làm bị ảnh hưởng, tin tặc có được trí tuệ siêu phàm và hệ thống mất kiểm soát là 3 rủi ro đáng lo ngại của AI. AI có thể làm những điều tuyệt vời, nhưng nó cũng có thể làm những điều tồi tệ, vì vậy chúng tôi có các cơ cấu quản lý phù hợp để kiểm soát việc sử dụng công nghệ này, chẳng hạn như thành lập các tổ chức toàn cầu.
**5. AI sẽ thúc đẩy khám phá khoa học: **AI có thể giúp con người đạt được một số mục tiêu khoa học hiện không thể đạt được, chẳng hạn như thúc đẩy phát triển y tế và sức khỏe, giảm thiểu các vấn đề biến đổi khí hậu và thậm chí khám phá những bí ẩn của vũ trụ. mà mọi người hào hứng nhất.
Toàn bộ cuộc phỏng vấn không thiếu chiều sâu mà còn thú vị.
Chẳng hạn, Ilya vui vẻ kể rằng cha mẹ anh ấy nói với anh ấy rằng bạn bè của anh ấy cũng sử dụng ChatGPT hàng ngày, điều này khiến anh ấy rất ngạc nhiên. Và khi khán giả hỏi "Bạn đang làm nên lịch sử, bạn muốn lịch sử ghi nhớ mình như thế nào?", Ilya cũng hóm hỉnh trả lời: ** "Ý tôi là theo cách tốt nhất."**
Sau đây là toàn văn cuộc phỏng vấn:
Một tiến sĩ và một người bỏ học: hai cuộc đời khác nhau trước OpenAI
Ilya：
Từ 5 đến 16 tuổi, tôi sống ở Jerusalem. Từ năm 2000 đến 2002 tôi học tại Đại học Mở. Sau đó, tôi chuyển đến Đại học Toronto, nơi tôi đã học 10 năm và lấy bằng Cử nhân, Thạc sĩ và Tiến sĩ. Trong thời gian học cao học, tôi có vinh dự được đóng góp vào những tiến bộ quan trọng trong lĩnh vực học sâu. Sau đó, tôi đồng sáng lập một công ty với một số người đã được Google mua lại, nơi tôi đã làm việc một thời gian.
Sau đó, một ngày nọ, tôi nhận được email từ Sam nói rằng, "Này, hãy đi chơi với một số người tuyệt vời." Tôi bị hấp dẫn nên đã đồng ý. Đó là lần đầu tiên tôi gặp Elon Musk và Greg Brockman, và chúng tôi quyết định bắt đầu hành trình OpenAI. Chúng tôi đã làm điều này trong nhiều năm, vì vậy đây là nơi chúng tôi đang ở hiện tại.
Bản thân anh ấy:
Khi còn bé, tôi rất hào hứng với AI và là một người mê khoa học viễn tưởng. Tôi chưa bao giờ có cơ hội nghiên cứu về nó, nhưng sau đó ở trường đại học, tôi bắt đầu nghiên cứu nó một thời gian. Nhưng sau đó nó chưa thực sự cất cánh, giống như năm 2004... Tôi bỏ học và khởi nghiệp.
Sau một thời gian sau tiến trình mà Ilya đề cập, tôi thực sự hào hứng với những gì đang diễn ra với AI và đã gửi email cho anh ấy, và chúng tôi vẫn đang tiếp tục.
Ưu điểm của OpenAI
chủ nhà:
Bạn thấy điểm mạnh chính của OpenAI là gì, đặc biệt là khi các đối thủ cạnh tranh thường lớn hơn và có nhiều tài nguyên hơn, khiến nó trở thành công ty hàng đầu về AI tổng hợp?
Bản thân anh ấy:
Chúng tôi tin rằng một lợi thế quan trọng là sự tập trung ngày càng tăng của chúng tôi vào những gì chúng tôi làm. Điều quan trọng và dễ bị hiểu lầm là chúng tôi có mật độ nhân tài cao hơn các công ty lớn hơn. **Văn hóa của chúng tôi coi trọng sự nghiêm ngặt và sự đổi mới có thể lặp lại, và rất khó và hiếm khi hai nền văn hóa này cùng tồn tại. **
Ilya：
Có, tôi chỉ có thể thêm một lượng nhỏ vào câu trả lời của Sam. ** Đây là một trò chơi của niềm tin, nhiều niềm tin hơn có nghĩa là tiến bộ hơn. **Bạn sẽ tiến bộ nhiều nhất nếu bạn có nhiều niềm tin. Nghe có vẻ giống như một trò đùa, nhưng nó thực sự là sự thật. Bạn phải tin vào ý tưởng và thúc đẩy nó hết mình, đó là điều thúc đẩy sự tiến bộ.
Vị trí của học thuật trong lĩnh vực AI
chủ nhà:
Những tiến bộ gần đây trong trí tuệ nhân tạo phần lớn được thúc đẩy bởi ngành công nghiệp, bạn nghĩ nghiên cứu học thuật nên đóng vai trò gì trong sự phát triển của lĩnh vực này?
Ilya：
Vai trò của học viện trong lĩnh vực AI đã thay đổi đáng kể. Học viện từng đi đầu trong nghiên cứu AI, nhưng điều đó đã thay đổi. Có hai lý do: sức mạnh tính toán và văn hóa kỹ thuật. Học viện có ít sức mạnh tính toán hơn và thường thiếu văn hóa kỹ thuật.
Tuy nhiên, giới hàn lâm vẫn có thể có những đóng góp đáng kể và quan trọng cho AI. **Học viện có thể làm sáng tỏ nhiều bí ẩn từ mạng lưới thần kinh mà chúng tôi đang đào tạo và chúng tôi đang tạo ra những vật thể phức tạp và tuyệt vời. **
Học sâu là gì? Đó là một quá trình giả kim thuật trong đó chúng tôi sử dụng dữ liệu làm nguyên liệu thô, kết hợp với năng lượng tính toán, để có được trí thông minh này. Nhưng chính xác là nó? Làm thế nào nó hoạt động? Nó có những tính chất gì? Làm thế nào để chúng ta kiểm soát nó? Làm thế nào để hiểu nó? Làm thế nào để áp dụng nó? Làm thế nào để đo lường nó? Những câu hỏi này đều là ẩn số.
**Ngay cả trong các tác vụ đo lường đơn giản, chúng tôi cũng không thể đánh giá chính xác hiệu suất của AI. Trước đây đây không phải là vấn đề vì AI không quan trọng lắm. Trí tuệ nhân tạo hiện nay rất quan trọng, nhưng chúng tôi nhận ra rằng chúng tôi vẫn chưa thể đo lường hết được. **
Vì vậy, tôi bắt đầu nghĩ về một số vấn đề mà không phải ai cũng có thể giải quyết được. Bạn không cần các cụm máy tính khổng lồ hoặc các nhóm kỹ sư khổng lồ để đặt những câu hỏi này và đạt được tiến bộ. Nếu bạn đột phá, đó sẽ là một đóng góp hấp dẫn và có ý nghĩa mà mọi người sẽ chú ý ngay.
chủ nhà:
Chúng tôi muốn thấy sự tiến bộ hoàn toàn cân bằng giữa ngành công nghiệp và học viện, và chúng tôi muốn thấy nhiều hơn những loại đóng góp này. Bạn có nghĩ rằng có bất cứ điều gì có thể được thực hiện để cải thiện tình hình, đặc biệt là từ vị trí của bạn, có một số hình thức hỗ trợ không?
Ilya：
Trước hết, tôi nghĩ thay đổi tư duy là điều đầu tiên và quan trọng nhất. Dạo này tôi hơi lạc lõng với giới học thuật, nhưng tôi nghĩ rằng có một số khủng hoảng trong những gì chúng tôi đang làm.
Có quá nhiều động lực xung quanh một số lượng lớn các bài báo, nhưng điều quan trọng là phải tập trung vào giải quyết những vấn đề quan trọng nhất. Chúng ta cần thay đổi tư duy và tập trung vào những vấn đề quan trọng nhất. **Chúng ta không thể chỉ tập trung vào những gì chúng ta đã biết, mà phải nhận thức được những gì sai. **Một khi hiểu được vấn đề, chúng ta có thể tiến tới giải quyết chúng.
Thêm vào đó, chúng tôi có thể giúp đỡ. Ví dụ: chúng tôi có Chương trình tiếp cận học thuật nơi các học giả có thể đăng ký để đạt được năng lực tính toán và tiếp cận với các mô hình tiên tiến nhất của chúng tôi. Nhiều trường đại học đã viết bài báo sử dụng GPT-3, nghiên cứu các thuộc tính và độ lệch của các mô hình. Nếu bạn có thêm ý tưởng, tôi rất muốn nghe chúng.
nguồn mở HOẶC không nguồn mở
chủ nhà:
Trong khi một số người chơi thực sự thúc đẩy việc phát hành mã nguồn mở của các mô hình và mã của họ, thì những người khác lại không làm đủ. Đây cũng là về AI mở. Vì vậy, tôi tự hỏi, trước hết, bạn nghĩ gì về điều này? Nếu bạn đồng ý, tại sao bạn nghĩ OpenAI là chiến lược đúng đắn?
Bản thân anh ấy:
**Chúng tôi đã cung cấp mã nguồn mở cho một số mô hình và dự định sẽ cung cấp thêm mã nguồn mở theo thời gian. Nhưng tôi không nghĩ nguồn mở mọi thứ là chiến lược đúng đắn. **Nếu các mô hình ngày nay thú vị, chúng có thể hữu ích cho một số thứ, nhưng chúng vẫn còn tương đối thô sơ so với những gì chúng ta sắp tạo ra. Tôi nghĩ rằng hầu hết mọi người sẽ đồng ý với điều đó. Nếu chúng ta biết cách tạo ra một AGI siêu mạnh có nhiều ưu điểm nhưng cũng có nhược điểm, mã nguồn mở có thể không phải là lựa chọn tốt nhất.
** Vì vậy, chúng tôi đang cố gắng tìm sự cân bằng. **Chúng tôi sẽ mở nguồn một số thứ và khi hiểu biết của chúng tôi về mô hình được cải thiện, chúng tôi sẽ có thể mở nguồn nhiều hơn theo thời gian. Chúng tôi đã phát hành rất nhiều thứ và tôi nghĩ rằng nhiều ý tưởng chính mà những người khác đang xây dựng các mô hình ngôn ngữ hiện nay đến từ các bản phát hành của OpenAI, chẳng hạn như các bài báo GPT ban đầu và luật mở rộng quy mô từ công việc của rohf. Nhưng đó là sự cân bằng mà chúng ta sẽ phải tìm ra khi tiến lên phía trước. Chúng tôi phải đối mặt với nhiều yếu tố gây căng thẳng khác nhau và cần quản lý chúng thành công.
chủ nhà:
Vì vậy, bạn có đang cân nhắc cung cấp mô hình cho một đối tượng cụ thể thay vì mở nguồn cung ứng cho thế giới không? Bạn đang nghĩ gì với tư cách là một nhà khoa học hay khi chúng tôi hoàn thành khóa đào tạo GPT-4?
Bản thân anh ấy:
Chúng tôi đã mất gần tám tháng để hiểu nó, bảo mật nó và tìm ra cách điều chỉnh. Chúng tôi có các kiểm toán viên bên ngoài, đội đỏ và cộng đồng khoa học tham gia. Vì vậy, chúng tôi đang thực hiện các bước này và sẽ tiếp tục làm như vậy.
Những rủi ro AI không thể bỏ qua
chủ nhà:
Tôi nghĩ rằng rủi ro là một vấn đề rất quan trọng và có lẽ có ít nhất ba loại rủi ro.
Đầu tiên là sự xáo trộn kinh tế, trong đó việc làm trở nên dư thừa. Loại thứ hai có thể là những tình huống mà vũ khí mạnh nằm trong tay một số ít người. Ví dụ, nếu tin tặc có thể sử dụng những công cụ này, chúng có thể làm được những việc mà trước đây hàng ngàn tin tặc phải làm. Loại cuối cùng có lẽ là đáng lo ngại nhất, trong đó hệ thống nằm ngoài tầm kiểm soát và ngay cả trình kích hoạt cũng không thể ngăn chặn hành vi của nó. Tôi muốn biết suy nghĩ của bạn về mỗi tình huống có thể xảy ra.
Ilya：
Được rồi, hãy bắt đầu với những kịch bản có thể xảy ra đối với sự hỗn loạn kinh tế. Như bạn đã đề cập, có ba rủi ro trong **: công việc bị xâm phạm, tin tặc có được trí thông minh siêu việt và hệ thống mất kiểm soát. **Sự hỗn loạn kinh tế thực sự là một tình huống mà chúng ta đã quen thuộc, vì một số công việc đã bị ảnh hưởng hoặc gặp rủi ro.
Nói cách khác, một số tác vụ có thể được tự động hóa. Ví dụ, nếu bạn là một lập trình viên, Copilot có thể viết các chức năng cho bạn. Mặc dù điều này khác với trường hợp của các nghệ sĩ, vì nhiều hoạt động kinh tế của các nghệ sĩ đã được thay thế bằng một số công cụ tạo hình ảnh.
Tôi không nghĩ rằng đây thực sự là một câu hỏi đơn giản. **Mặc dù đã tạo ra nhiều việc làm mới, nhưng sự bất ổn về kinh tế sẽ tồn tại trong một thời gian dài. Tôi không chắc chắn nếu đây là trường hợp. **
Tuy nhiên, trong mọi trường hợp, chúng ta cần một thứ gì đó để làm dịu quá trình chuyển đổi sang sự tấn công dữ dội của những nghề nghiệp mới nổi, ngay cả khi những nghề nghiệp đó chưa tồn tại. Điều này cần sự quan tâm của chính quyền và hệ thống xã hội.
Bây giờ hãy nói về hack. Vâng, đây là một câu hỏi khó. AI thực sự mạnh mẽ và kẻ xấu có thể sử dụng nó theo những cách mạnh mẽ. Chúng ta cần áp dụng một khuôn khổ tương tự như các công cụ rất mạnh mẽ và nguy hiểm khác.
Lưu ý rằng chúng ta không nói về trí tuệ nhân tạo ngày nay, mà là khả năng ngày càng tăng theo thời gian. Ngay bây giờ chúng tôi đang ở một điểm thấp, nhưng khi chúng tôi đến đó, nó sẽ rất mạnh mẽ. **Công nghệ này có thể được sử dụng trong những ứng dụng đáng kinh ngạc, nó có thể được sử dụng để chữa bệnh, nhưng nó cũng có thể tạo ra những căn bệnh tồi tệ hơn bất kỳ thứ gì trước đây.
Do đó, chúng ta cần có các cấu trúc để kiểm soát việc sử dụng công nghệ này. Ví dụ, Sam đã gửi cho họ một tài liệu đề xuất một khuôn khổ giống như IAEA để kiểm soát năng lượng hạt nhân nhằm kiểm soát trí tuệ nhân tạo rất mạnh mẽ. **
chủ nhà:
Câu hỏi cuối cùng là về việc trí tuệ nhân tạo siêu thông minh vượt khỏi tầm kiểm soát, có thể nói nó sẽ trở thành một vấn đề lớn, liệu chúng ta có sai lầm khi xây dựng một trí tuệ nhân tạo siêu thông minh mà chúng ta không biết cách kiểm soát hay không.
Bản thân anh ấy:
Tôi có thể thêm một số điểm. Tất nhiên, tôi hoàn toàn đồng ý với câu cuối cùng.
Về mặt kinh tế, tôi thấy khó dự đoán những diễn biến trong tương lai. Tôi nghĩ đó là vì hiện tại có quá nhiều nhu cầu dư thừa trên thế giới và những hệ thống này thực sự hữu ích trong việc giúp hoàn thành công việc. Nhưng trong hầu hết các trường hợp ngày nay, không phải tất cả các nhiệm vụ đều có thể được thực hiện bởi họ.
**Tôi nghĩ rằng trong ngắn hạn, mọi thứ đang có vẻ tốt đẹp và chúng ta sẽ chứng kiến năng suất tăng lên đáng kể. **Nếu chúng ta có thể làm cho các lập trình viên làm việc hiệu quả gấp đôi, lượng mã cần thiết trên thế giới sẽ nhiều hơn gấp ba lần, vì vậy mọi thứ đều ổn.
Về lâu dài, tôi nghĩ rằng các hệ thống này sẽ xử lý các nhiệm vụ và hạng mục công việc ngày càng phức tạp. Một số công việc này có thể biến mất,** nhưng những công việc khác sẽ trở thành những công việc thực sự cần đến con người và các mối quan hệ giữa con người với nhau. ** Mọi người thực sự muốn con người đóng những vai trò này.
Những vai trò này có thể không rõ ràng. Ví dụ, khi Deep Blue đánh bại Garry Kasparov, thế giới lần đầu tiên được chứng kiến trí thông minh nhân tạo. Lúc đó mọi người đều nói cờ vua đã hết và sẽ không ai chơi cờ nữa vì nó không có ý nghĩa.
Tuy nhiên, chúng tôi có một sự đồng thuận rằng cờ vua chưa bao giờ phổ biến hơn thế. Con người mạnh mẽ hơn, chỉ là kỳ vọng được nâng lên. Chúng ta có thể sử dụng những công cụ này để cải thiện kỹ năng của chính mình, nhưng mọi người vẫn thực sự thích chơi cờ và dường như mọi người vẫn quan tâm đến người khác.
Bạn đã đề cập rằng Dolly có thể tạo ra tác phẩm nghệ thuật tuyệt vời, nhưng mọi người vẫn quan tâm đến những người đứng sau tác phẩm nghệ thuật mà họ muốn mua và tất cả chúng tôi đều nghĩ rằng những người sáng tạo đó là đặc biệt và có giá trị.
Lấy cờ vua làm ví dụ, giống như mọi người chú ý nhiều hơn đến cờ vua của con người, nhiều người xem cờ vua hơn bao giờ hết. Tuy nhiên, ít người muốn xem một trận đấu giữa hai AI. Vì vậy, tôi nghĩ rằng chúng sẽ là tất cả những yếu tố không thể đoán trước này. **Tôi nghĩ con người khao khát sự khác biệt (giữa con người và máy móc). **
Nhu cầu tạo ra một cái gì đó mới để đạt được vị thế sẽ luôn tồn tại, nhưng nó sẽ thể hiện theo một cách thực sự khác. Tôi cá rằng công việc trong 100 năm tới sẽ hoàn toàn khác so với công việc ngày nay, và nhiều thứ trong số đó sẽ rất giống nhau. Nhưng tôi thực sự đồng ý với những gì Ilya đã nói, **Dù bất cứ điều gì xảy ra, chúng ta cần một loại hợp đồng kinh tế xã hội khác, bởi vì cho đến nay tự động hóa đã đạt đến những đỉnh cao không thể tưởng tượng được. **
chủ nhà:
Sam, gần đây bạn đã ký một bản kiến nghị kêu gọi xem xét nghiêm túc mối đe dọa hiện hữu của trí tuệ nhân tạo. Có lẽ các công ty như OpenAI nên thực hiện các bước để giải quyết vấn đề này.
Bản thân anh ấy:
Tôi thực sự muốn nhấn mạnh rằng chúng ta không nói về các hệ thống ngày nay ở đây, hoặc các mô hình đào tạo khởi nghiệp nhỏ hoặc cộng đồng nguồn mở.
Tôi nghĩ sẽ là một sai lầm nếu áp đặt quy định nặng nề trong lĩnh vực này ngay bây giờ hoặc cố gắng làm chậm sự đổi mới đáng kinh ngạc. Thực sự không muốn tạo ra một siêu trí tuệ không nhất quán dường như không thể chối cãi. **Tôi nghĩ thế giới không nên coi đây là một rủi ro khoa học viễn tưởng sẽ không bao giờ xảy ra, mà là một thứ chúng ta có thể phải đối phó trong thập kỷ tới, sẽ mất thời gian để làm quen với một số thứ, nhưng sẽ ổn thôi' không được lâu. **
Vì vậy, chúng tôi đã đưa ra một ý tưởng và hy vọng một ý tưởng tốt hơn. Nếu chúng ta có thể xây dựng một tổ chức toàn cầu, với sức mạnh điện toán và biên giới công nghệ ở mức cao nhất, thì có thể phát triển một khuôn khổ để cấp phép cho các mô hình và kiểm tra tính bảo mật của chúng để đảm bảo rằng chúng vượt qua các bài kiểm tra cần thiết. Điều này sẽ giúp chúng tôi xem vấn đề này là một rủi ro rất nghiêm trọng. Chúng tôi làm điều gì đó tương tự với năng lượng hạt nhân.
Trong tương lai, AI sẽ tăng tốc khám phá khoa học? Chữa bệnh, giải quyết vấn đề khí hậu?
chủ nhà:
Hãy nói về lợi thế. Trong môi trường khoa học mà chúng ta đang ở, tôi tự hỏi về vai trò của trí tuệ nhân tạo. Trong một vài năm nữa, có thể trong tương lai, chúng ta sẽ có điều gì đó khoa học để khám phá.
Bản thân anh ấy:
**Đây là điều cá nhân tôi hào hứng nhất về AI. **Tôi nghĩ rằng có rất nhiều điều thú vị đang diễn ra, lợi ích kinh tế to lớn, lợi ích chăm sóc sức khỏe to lớn. Nhưng trên thực tế, trí tuệ nhân tạo có thể giúp chúng ta thực hiện một số khám phá khoa học mà hiện tại không thể thực hiện được. Chúng tôi rất thích tìm hiểu về những bí ẩn của vũ trụ và hơn thế nữa. Tôi thực sự tin rằng tiến bộ khoa học và công nghệ là cách bền vững duy nhất để làm cho cuộc sống tốt đẹp hơn và thế giới trở nên tốt đẹp hơn.
Nếu chúng ta có thể phát triển nhiều tiến bộ khoa học và công nghệ mới, tôi nghĩ rằng chúng ta đã nhìn thấy sự khởi đầu của con người. Sử dụng các công cụ này để tăng hiệu quả. Nhưng nếu bạn tưởng tượng một thế giới mà bạn có thể nói, "Này, tôi có thể giúp chữa khỏi mọi bệnh tật," và nó có thể giúp bạn chữa khỏi mọi bệnh tật, thì thế giới đó có thể là một nơi tốt đẹp hơn. Tôi không nghĩ chúng ta cách xa điều đó.
chủ nhà:
Ngoài bệnh tật, một vấn đề lớn khác là biến đổi khí hậu, một vấn đề rất khó giải quyết. Nhưng tôi không nghĩ việc đối phó với biến đổi khí hậu sẽ không đặc biệt khó khăn một khi chúng ta có những hệ thống siêu trí tuệ thực sự mạnh mẽ.
Ilya：
Có, bạn cần thu hồi nhiều carbon. Bạn cần năng lượng để thu hồi carbon và bạn cần công nghệ để tạo ra nó. Nếu bạn có thể tăng tốc khoa học, bạn cần phải xây dựng rất nhiều. Tiến bộ là điều mà trí tuệ nhân tạo mạnh mẽ có thể làm được và chúng ta có thể đạt được khả năng thu hồi carbon rất tiên tiến nhanh hơn nhiều. Nó có thể đạt được mức điện rất rẻ nhanh hơn, chúng ta có thể đạt được sản xuất rẻ hơn nhanh hơn. Bây giờ hãy kết hợp cả ba yếu tố điện giá rẻ, sản xuất rẻ và thu hồi carbon tiên tiến, và bây giờ bạn xây dựng rất nhiều trong số chúng, và bây giờ bạn hút tất cả lượng CO2 dư thừa này ra khỏi bầu khí quyển.
** Nếu bạn có một trí tuệ nhân tạo mạnh mẽ, nó sẽ thúc đẩy tiến bộ của khoa học và kỹ thuật một cách đáng kể. **Điều này sẽ làm cho việc lập kế hoạch dễ dàng hơn nhiều ngày hôm nay. Tôi tin rằng điều này sẽ tạo điều kiện đẩy nhanh tiến độ. Điều này cho thấy rằng chúng ta nên ước mơ lớn hơn. Bạn có thể tưởng tượng rằng nếu bạn có thể thiết kế một hệ thống, bạn có thể yêu cầu nó cho bạn biết cách tạo ra một lượng lớn năng lượng sạch với chi phí thấp, cách thu giữ carbon hiệu quả và hướng dẫn bạn xây dựng một nhà máy có thể làm được những điều đó . Nếu bạn có thể đạt được những điều này, thì bạn cũng có thể đạt được trong nhiều lĩnh vực khác.
Trò chuyện tuyệt vờiGPT
chủ nhà:
Khi biết rằng bạn không nghĩ rằng ChatGPT sẽ phổ biến rộng rãi như vậy, tôi tự hỏi liệu có bất kỳ ví dụ nào về việc những người khác thực sự ngạc nhiên trước giá trị và khả năng của nó hay không.
Ilya：
Tôi đã rất ngạc nhiên và vui mừng khi bố mẹ kể cho tôi nghe bạn bè của họ sử dụng ChatGPT như thế nào trong cuộc sống hàng ngày. Thật khó để chọn ra một câu chuyện trong số rất nhiều câu chuyện đáng yêu thể hiện sự sáng tạo tuyệt vời của con người và cách mọi người khai thác công cụ mạnh mẽ này.
Thật tuyệt vời đối với chúng tôi trong lĩnh vực giáo dục và nhìn thấy rất nhiều người viết những từ có thể thay đổi cuộc sống của họ như thế này thực sự là một sự biến đổi đối với tôi bởi vì bây giờ tôi có thể học bất cứ điều gì, tôi học những điều cụ thể hoặc Nói những điều mà tôi không biết làm thế nào để làm trước đây, tôi làm bây giờ.
Cá nhân tôi thấy mọi người học theo một cách mới và tốt hơn và tưởng tượng rằng nó sẽ như thế nào trong một vài năm nữa là rất hài lòng và tốt đẹp. Với tốc độ này, chúng tôi không hoàn toàn mong đợi điều này xảy ra, điều này thực sự tuyệt vời.
Sau đó, có một câu chuyện thú vị, mà tôi chỉ mới nghe ngày hôm qua. Người ta nói rằng một người đàn ông thường dành hai giờ mỗi tối để viết những câu chuyện trước khi đi ngủ với con mình. Những câu chuyện này đều là những điều yêu thích của trẻ em, và nó trở thành một khoảnh khắc đặc biệt. Họ đã có một thời gian tuyệt vời mỗi đêm.
Câu hỏi của khán giả:
Câu 1:
LLM nguồn mở có thể phù hợp với khả năng của GPT-4 mà không cần các kỹ thuật nâng cao bổ sung không? Hay có một bí mật đen tối nào trong GPT-4 khiến nó khác biệt với các mô hình khác. Tôi đang cài đặt mô hình vicuna của Ổn định, 13 tỷ tham số... Tôi có đang lãng phí thời gian không?
Sam: Không nói nên lời...
Ilya：
Liên quan đến câu hỏi về các mô hình nguồn mở và không phải nguồn mở, chúng ta không cần phải suy nghĩ theo thuật ngữ đen trắng nhị phân. Nó giống như tồn tại một nguồn bí mật mà bạn không bao giờ có thể khám phá lại.
**Có thể một ngày nào đó sẽ có một mô hình nguồn mở sao chép các khả năng của GPT-4, nhưng quá trình này sẽ mất thời gian và đến lúc đó, một mô hình như vậy có thể trở thành một mô hình mạnh mẽ hơn trong một công ty lớn. **Do đó, sẽ luôn có khoảng cách giữa mô hình nguồn mở và mô hình riêng tư và khoảng cách này có thể tăng dần. Khối lượng công việc, kỹ thuật và nghiên cứu cần thiết để tạo ra một mạng thần kinh như vậy sẽ tiếp tục tăng lên.
Vì vậy, **ngay cả khi các mô hình nguồn mở tồn tại, chúng sẽ ngày càng ít được tạo ra bởi một nhóm nhỏ các nhà nghiên cứu và kỹ sư chuyên dụng, nó sẽ chỉ là một công ty, một công ty lớn (đóng góp cho nguồn mở). **
Câu 2:
Nếu bạn thực sự tin rằng AI nguy hiểm với con người, tại sao lại tiếp tục phát triển nó? Nếu quy định được áp đặt lên OpenAI và các công ty AI khác, bạn có tuân thủ không? Zuckerberg cho biết anh đã cố gắng trốn tránh mọi quy định mà anh tìm thấy.
Bản thân anh ấy:
Tôi nghĩ rằng đây là một câu hỏi rất công bằng và quan trọng. Phần khó nhất trong công việc của chúng tôi là cân bằng tiềm năng to lớn do trí tuệ nhân tạo mang lại với những rủi ro nghiêm trọng liên quan đến nó. Chúng ta cần dành thời gian để thảo luận về lý do tại sao chúng ta phải đối mặt với những rủi ro này và tại sao chúng lại ở vị trí đầu tiên.
Tôi nghĩ mọi thứ sẽ tốt hơn khi chúng ta nhìn lại mức sống ngày nay và sự khoan dung ngày càng tăng của chúng ta đối với con người. So với 500 hay 1000 năm trước, điều kiện sống của con người đã được cải thiện rất nhiều. Chúng tôi tự hỏi mình, bạn có thể tưởng tượng những người sống trong cảnh nghèo đói cùng cực không? Bạn có thể tưởng tượng những người bị bệnh? Bạn có thể tưởng tượng một tình huống mà tất cả mọi người không được giáo dục tốt không? Đây là những thực tế của thời kỳ man rợ.
**Mặc dù AI gây ra một số rủi ro nhưng chúng ta cũng nhận thấy tiềm năng của nó trong việc cải thiện cuộc sống của chúng ta, thúc đẩy nghiên cứu khoa học và giải quyết các vấn đề toàn cầu. **
Chúng ta cần tiếp tục phát triển AI một cách có trách nhiệm, với các biện pháp quản lý được áp dụng để đảm bảo các vấn đề về an toàn và đạo đức được giải quyết đúng cách. Mục tiêu của chúng tôi là làm cho trí tuệ nhân tạo trở thành một công cụ cho sự tiến bộ của con người chứ không phải là một mối đe dọa. Điều này đòi hỏi những nỗ lực chung của chúng ta, bao gồm sự tham gia của cộng đồng kỹ thuật, chính phủ và tất cả các bên trong xã hội, để thiết lập một khuôn khổ đạo đức và bền vững cho sự phát triển của trí tuệ nhân tạo.
Làm thế nào để làm điều đó, tôi cũng nghĩ nó giống như sự tiến bộ không thể ngăn cản. Công nghệ không đứng yên, nó tiếp tục phát triển. Vì vậy, với tư cách là một công ty lớn, chúng tôi phải tìm ra cách quản lý rủi ro đi kèm với điều đó.
Một phần lý do là rủi ro và cách tiếp cận cần thiết để giải quyết nó là bất thường. Chúng tôi phải tạo ra một khuôn khổ khác với cấu trúc truyền thống. Chúng tôi có giới hạn lợi nhuận và tôi tin rằng các ưu đãi là một yếu tố quan trọng. Nếu bạn thiết kế các biện pháp khuyến khích phù hợp, nó thường có thể dẫn đến hành vi bạn muốn.
Vì vậy, chúng tôi cố gắng đảm bảo rằng mọi thứ hoạt động tốt và không tạo ra nhiều hơn hoặc ít hơn lợi nhuận. Chúng tôi không có cấu trúc khuyến khích như một công ty như Facebook, điều mà tôi nghĩ là tuyệt vời, mọi người ở Facebook đang ở trong cấu trúc khuyến khích, nhưng cấu trúc đó có một số thách thức.
Chúng tôi cố gắng tích lũy kinh nghiệm bằng AGI. Như Ilya thường đề cập, ban đầu chúng tôi thử trải nghiệm AGI khi thành lập công ty và sau đó xây dựng cơ cấu lợi nhuận. Do đó, chúng ta cần đạt được sự cân bằng giữa các yêu cầu về tài nguyên tính toán và tập trung vào nhiệm vụ. Một trong những chủ đề mà chúng ta thảo luận là loại cấu trúc nào cho phép chúng ta nhiệt tình chấp nhận quy định, ngay cả khi điều đó gây tổn hại cho chúng ta nhiều nhất.
Bây giờ là lúc,** chúng ta đang thúc đẩy quy định trên toàn cầu sẽ có tác động lớn nhất đến chúng ta. **Tất nhiên chúng tôi tuân theo các quy tắc, tôi nghĩ rằng khi mọi người gặp rủi ro, họ sẽ dễ dàng cư xử tốt hơn, họ sẽ dễ dàng tìm kiếm mục đích hơn. Vì vậy, tôi nghĩ rằng chủ sở hữu của những doanh nghiệp hàng đầu này đang cảm nhận được điều đó và bạn sẽ thấy họ phản ứng khác với các công ty truyền thông xã hội. Tôi nghĩ rằng tất cả những nghi ngờ và mối quan tâm là chính đáng. Chúng ta đấu tranh với vấn đề này hàng ngày và không có câu trả lời dễ dàng nào cho nó.
Câu hỏi 3: Tôi muốn hiểu khoảng cách giữa mô hình AI mà bạn sử dụng và mô hình chúng tôi sử dụng là gì.
Tôi biết chúng ta bị hạn chế theo nhiều cách mà dường như bạn không có, nhưng sự khác biệt giữa sức mạnh bạn có và sức mạnh chúng ta có thể sử dụng là gì?
Ilya：
Khoảng cách giữa các mô hình bạn đề cập thực sự là một vấn đề.
Ý tôi là, bây giờ chúng tôi có GPT-4, bạn biết đấy, chúng tôi đang đào tạo, bạn có quyền truy cập vào GPT-4,** và chúng tôi đang thực sự làm việc trên mô hình tương lai tiếp theo. **
Có lẽ tôi có thể mô tả khoảng cách này theo cách sau: Khi chúng tôi tiếp tục xây dựng và cải thiện các mô hình AI với các khả năng được nâng cao, sẽ có một khoảng cách lớn hơn đòi hỏi thời gian và thời gian thử nghiệm lâu hơn. Chúng tôi làm việc với nhóm để hiểu những hạn chế của mô hình và tất cả những cách bạn biết, hãy sử dụng nó nhiều nhất có thể, nhưng chúng tôi cũng dần dần mở rộng mô hình.
Ví dụ: GPT-4 hiện có khả năng nhận dạng hình ảnh và bạn (phiên bản bạn đang sử dụng) chưa khởi chạy tính năng này vì công việc cuối cùng chưa được hoàn thành. Nhưng chúng ta sẽ sớm đạt được điều này. Vì vậy, tôi nghĩ rằng câu trả lời cho câu hỏi của bạn, có thể không quá xa trong tương lai.
Câu hỏi 4: Câu hỏi của tôi là về siêu trí tuệ và tình thế tiến thoái lưỡng nan của Rokos Basilisk, bạn có thể giải thích rõ hơn về cách GPT và OpenAI giải quyết vấn đề nan giải này không?
*Lưu ý: Basilisk của Roko là ám chỉ đến một cuộc thảo luận trực tuyến và thử nghiệm suy nghĩ liên quan đến các giả thuyết về siêu trí tuệ trong tương lai. *
*Người ta nói rằng siêu trí tuệ này có thể thu thập thông tin thông qua du hành thời gian hoặc các phương tiện khác mà con người gây ra đau đớn cho nó và trừng phạt những ai không giúp nó được sinh ra. Do đó, sự ám chỉ này đặt ra một vấn đề nan giải về đạo đức: liệu sự phát triển của siêu trí tuệ có nên được hỗ trợ và thúc đẩy ngay bây giờ để tránh bị trừng phạt có thể xảy ra trong tương lai hay không. *
Ilya：
Mặc dù Basilisk của Rocco không phải là thứ mà chúng tôi đặc biệt quan tâm, nhưng chúng tôi chắc chắn rất quan tâm đến siêu trí tuệ.
Có lẽ không phải tất cả mọi người, thậm chí không phải tất cả khán giả đều hiểu chúng tôi muốn nói gì về siêu trí tuệ.
Điều chúng ta đang đề cập đến là khả năng một ngày nào đó sẽ xây dựng một máy tính, một cụm máy tính ở dạng GPU, thông minh hơn bất kỳ ai và có khả năng thực hiện khoa học và nghiên cứu nhanh hơn so với một nhóm lớn các nhà khoa học và kỹ sư giàu kinh nghiệm. .
Điều đó thật điên rồ, và nó sẽ có tác động rất lớn.
Nó có thể thiết kế phiên bản tiếp theo của hệ thống AI và xây dựng một AI rất mạnh mẽ. Vì vậy, lập trường của chúng tôi là **siêu trí tuệ có những tác động sâu rộng, nó có thể có những tác động rất tích cực, nhưng nó cũng rất nguy hiểm và chúng ta cần cẩn thận với nó. **
Đây là nơi mà cách tiếp cận của IAEA (Cơ quan Năng lượng Nguyên tử Quốc tế) mà bạn đã đề cập áp dụng cho các hệ thống tiên tiến nhất và siêu trí tuệ trong tương lai. Chúng ta cần thực hiện nhiều nghiên cứu để khai thác sức mạnh của một trí tuệ siêu việt sao cho phù hợp với kỳ vọng của chúng ta, vì lợi ích của chúng ta và vì lợi ích của nhân loại.
Đây là quan điểm của chúng tôi về siêu trí tuệ, là thách thức cuối cùng về siêu trí tuệ mà nhân loại phải đối mặt.
Nhìn lại lịch sử tiến hóa của loài người, thể tự sao đơn bào đã xuất hiện cách đây khoảng 4 tỷ năm. Sau đó, trải qua hàng tỷ năm, nhiều loại sinh vật đơn bào khác nhau đã xuất hiện. Khoảng một tỷ năm trước, sự sống đa bào bắt đầu xuất hiện. Hàng trăm triệu năm trước, loài bò sát đã xuất hiện trên trái đất. Động vật có vú xuất hiện khoảng 60 triệu năm trước. Khoảng 1 triệu năm trước, loài linh trưởng xuất hiện, sau đó là sự xuất hiện của Homo sapiens. 10.000 năm sau, chữ viết xuất hiện. Sau đó là Cách mạng Nông nghiệp, Cách mạng Công nghiệp và Cách mạng Công nghệ. Bây giờ, cuối cùng chúng ta đã có AGI, siêu trí tuệ cuối cùng và thách thức cuối cùng của chúng ta.
Câu hỏi 5: Em đang học ngành khoa học máy tính và sắp ra trường, không biết học khoa học máy tính sau 10-15 năm nữa có kiếm được việc làm tốt không ạ?
Bản thân anh ấy:
Tôi nghĩ dù sao thì việc học khoa học máy tính cũng có giá trị.
Mặc dù tôi hầu như không bao giờ tự mình viết mã, nhưng tôi coi việc nghiên cứu khoa học máy tính là một trong những điều tuyệt vời nhất mà tôi từng làm. Nó dạy tôi cách suy nghĩ và giải quyết vấn đề, những kỹ năng rất hữu ích trong bất kỳ lĩnh vực nào. **
Ngay cả khi công việc của một lập trình viên máy tính có vẻ khác sau 10 đến 15 năm kể từ bây giờ, học cách học là một trong những kỹ năng quan trọng nhất, bao gồm học những điều mới một cách nhanh chóng, dự đoán xu hướng trong tương lai, dễ thích nghi và kiên cường, hiểu nhu cầu của người khác và cách thức trở nên hữu ích.
Vì vậy, chắc chắn bản chất của công việc sẽ thay đổi, nhưng tôi không thể tưởng tượng ra một thế giới nơi mọi người không dành thời gian để làm điều gì đó tạo ra giá trị cho người khác và tất cả những lợi ích đi kèm với nó. Có thể trong tương lai, chúng ta sẽ quan tâm đến việc ai có thiên hà mát mẻ hơn, nhưng một số điều tốt đẹp (như tạo ra giá trị) sẽ không thay đổi.
Câu 6: Bạn đang làm nên lịch sử, bạn muốn lịch sử ghi nhớ mình như thế nào?
Ilya：
Ý tôi là, theo cách tốt nhất có thể.
Xem bản gốc
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Người sáng lập OpenAI và nhà khoa học trưởng hiếm khi ở cùng một sân khấu: điều thú vị nhất trong AI đang diễn ra!
Tác giả: Chu Tuyết Ưng
Khi hoạt động hàng tháng của ChatGPT tăng vọt lên mốc 1 tỷ, "chuyến du lịch toàn cầu" của người sáng lập OpenAI Sam Altman cũng thu hút sự chú ý.
Tuần này, SamAltman đã đến Đại học Tel Aviv ở Israel và thực hiện một cuộc phỏng vấn sâu và sống động với Ilya Sutskavel, nhà khoa học trưởng của OpenAI, người lớn lên ở Israel (hai người hiếm khi ở cùng một sân khấu). cho các từ khi được hỏi, và nó đáng để lắng nghe.
Toàn bộ cuộc phỏng vấn không thiếu chiều sâu mà còn thú vị.
Chẳng hạn, Ilya vui vẻ kể rằng cha mẹ anh ấy nói với anh ấy rằng bạn bè của anh ấy cũng sử dụng ChatGPT hàng ngày, điều này khiến anh ấy rất ngạc nhiên. Và khi khán giả hỏi "Bạn đang làm nên lịch sử, bạn muốn lịch sử ghi nhớ mình như thế nào?", Ilya cũng hóm hỉnh trả lời: ** "Ý tôi là theo cách tốt nhất."**
Sau đây là toàn văn cuộc phỏng vấn:
Một tiến sĩ và một người bỏ học: hai cuộc đời khác nhau trước OpenAI
Ilya：
Từ 5 đến 16 tuổi, tôi sống ở Jerusalem. Từ năm 2000 đến 2002 tôi học tại Đại học Mở. Sau đó, tôi chuyển đến Đại học Toronto, nơi tôi đã học 10 năm và lấy bằng Cử nhân, Thạc sĩ và Tiến sĩ. Trong thời gian học cao học, tôi có vinh dự được đóng góp vào những tiến bộ quan trọng trong lĩnh vực học sâu. Sau đó, tôi đồng sáng lập một công ty với một số người đã được Google mua lại, nơi tôi đã làm việc một thời gian.
Sau đó, một ngày nọ, tôi nhận được email từ Sam nói rằng, "Này, hãy đi chơi với một số người tuyệt vời." Tôi bị hấp dẫn nên đã đồng ý. Đó là lần đầu tiên tôi gặp Elon Musk và Greg Brockman, và chúng tôi quyết định bắt đầu hành trình OpenAI. Chúng tôi đã làm điều này trong nhiều năm, vì vậy đây là nơi chúng tôi đang ở hiện tại.
Bản thân anh ấy:
Khi còn bé, tôi rất hào hứng với AI và là một người mê khoa học viễn tưởng. Tôi chưa bao giờ có cơ hội nghiên cứu về nó, nhưng sau đó ở trường đại học, tôi bắt đầu nghiên cứu nó một thời gian. Nhưng sau đó nó chưa thực sự cất cánh, giống như năm 2004... Tôi bỏ học và khởi nghiệp.
Sau một thời gian sau tiến trình mà Ilya đề cập, tôi thực sự hào hứng với những gì đang diễn ra với AI và đã gửi email cho anh ấy, và chúng tôi vẫn đang tiếp tục.
Ưu điểm của OpenAI
chủ nhà:
Bạn thấy điểm mạnh chính của OpenAI là gì, đặc biệt là khi các đối thủ cạnh tranh thường lớn hơn và có nhiều tài nguyên hơn, khiến nó trở thành công ty hàng đầu về AI tổng hợp?
Bản thân anh ấy:
Chúng tôi tin rằng một lợi thế quan trọng là sự tập trung ngày càng tăng của chúng tôi vào những gì chúng tôi làm. Điều quan trọng và dễ bị hiểu lầm là chúng tôi có mật độ nhân tài cao hơn các công ty lớn hơn. **Văn hóa của chúng tôi coi trọng sự nghiêm ngặt và sự đổi mới có thể lặp lại, và rất khó và hiếm khi hai nền văn hóa này cùng tồn tại. **
Ilya：
Có, tôi chỉ có thể thêm một lượng nhỏ vào câu trả lời của Sam. ** Đây là một trò chơi của niềm tin, nhiều niềm tin hơn có nghĩa là tiến bộ hơn. **Bạn sẽ tiến bộ nhiều nhất nếu bạn có nhiều niềm tin. Nghe có vẻ giống như một trò đùa, nhưng nó thực sự là sự thật. Bạn phải tin vào ý tưởng và thúc đẩy nó hết mình, đó là điều thúc đẩy sự tiến bộ.
Vị trí của học thuật trong lĩnh vực AI
chủ nhà:
Những tiến bộ gần đây trong trí tuệ nhân tạo phần lớn được thúc đẩy bởi ngành công nghiệp, bạn nghĩ nghiên cứu học thuật nên đóng vai trò gì trong sự phát triển của lĩnh vực này?
Ilya：
Vai trò của học viện trong lĩnh vực AI đã thay đổi đáng kể. Học viện từng đi đầu trong nghiên cứu AI, nhưng điều đó đã thay đổi. Có hai lý do: sức mạnh tính toán và văn hóa kỹ thuật. Học viện có ít sức mạnh tính toán hơn và thường thiếu văn hóa kỹ thuật.
Tuy nhiên, giới hàn lâm vẫn có thể có những đóng góp đáng kể và quan trọng cho AI. **Học viện có thể làm sáng tỏ nhiều bí ẩn từ mạng lưới thần kinh mà chúng tôi đang đào tạo và chúng tôi đang tạo ra những vật thể phức tạp và tuyệt vời. **
Học sâu là gì? Đó là một quá trình giả kim thuật trong đó chúng tôi sử dụng dữ liệu làm nguyên liệu thô, kết hợp với năng lượng tính toán, để có được trí thông minh này. Nhưng chính xác là nó? Làm thế nào nó hoạt động? Nó có những tính chất gì? Làm thế nào để chúng ta kiểm soát nó? Làm thế nào để hiểu nó? Làm thế nào để áp dụng nó? Làm thế nào để đo lường nó? Những câu hỏi này đều là ẩn số.
**Ngay cả trong các tác vụ đo lường đơn giản, chúng tôi cũng không thể đánh giá chính xác hiệu suất của AI. Trước đây đây không phải là vấn đề vì AI không quan trọng lắm. Trí tuệ nhân tạo hiện nay rất quan trọng, nhưng chúng tôi nhận ra rằng chúng tôi vẫn chưa thể đo lường hết được. **
Vì vậy, tôi bắt đầu nghĩ về một số vấn đề mà không phải ai cũng có thể giải quyết được. Bạn không cần các cụm máy tính khổng lồ hoặc các nhóm kỹ sư khổng lồ để đặt những câu hỏi này và đạt được tiến bộ. Nếu bạn đột phá, đó sẽ là một đóng góp hấp dẫn và có ý nghĩa mà mọi người sẽ chú ý ngay.
chủ nhà:
Chúng tôi muốn thấy sự tiến bộ hoàn toàn cân bằng giữa ngành công nghiệp và học viện, và chúng tôi muốn thấy nhiều hơn những loại đóng góp này. Bạn có nghĩ rằng có bất cứ điều gì có thể được thực hiện để cải thiện tình hình, đặc biệt là từ vị trí của bạn, có một số hình thức hỗ trợ không?
Ilya：
Trước hết, tôi nghĩ thay đổi tư duy là điều đầu tiên và quan trọng nhất. Dạo này tôi hơi lạc lõng với giới học thuật, nhưng tôi nghĩ rằng có một số khủng hoảng trong những gì chúng tôi đang làm.
Có quá nhiều động lực xung quanh một số lượng lớn các bài báo, nhưng điều quan trọng là phải tập trung vào giải quyết những vấn đề quan trọng nhất. Chúng ta cần thay đổi tư duy và tập trung vào những vấn đề quan trọng nhất. **Chúng ta không thể chỉ tập trung vào những gì chúng ta đã biết, mà phải nhận thức được những gì sai. **Một khi hiểu được vấn đề, chúng ta có thể tiến tới giải quyết chúng.
Thêm vào đó, chúng tôi có thể giúp đỡ. Ví dụ: chúng tôi có Chương trình tiếp cận học thuật nơi các học giả có thể đăng ký để đạt được năng lực tính toán và tiếp cận với các mô hình tiên tiến nhất của chúng tôi. Nhiều trường đại học đã viết bài báo sử dụng GPT-3, nghiên cứu các thuộc tính và độ lệch của các mô hình. Nếu bạn có thêm ý tưởng, tôi rất muốn nghe chúng.
nguồn mở HOẶC không nguồn mở
chủ nhà:
Trong khi một số người chơi thực sự thúc đẩy việc phát hành mã nguồn mở của các mô hình và mã của họ, thì những người khác lại không làm đủ. Đây cũng là về AI mở. Vì vậy, tôi tự hỏi, trước hết, bạn nghĩ gì về điều này? Nếu bạn đồng ý, tại sao bạn nghĩ OpenAI là chiến lược đúng đắn?
Bản thân anh ấy:
**Chúng tôi đã cung cấp mã nguồn mở cho một số mô hình và dự định sẽ cung cấp thêm mã nguồn mở theo thời gian. Nhưng tôi không nghĩ nguồn mở mọi thứ là chiến lược đúng đắn. **Nếu các mô hình ngày nay thú vị, chúng có thể hữu ích cho một số thứ, nhưng chúng vẫn còn tương đối thô sơ so với những gì chúng ta sắp tạo ra. Tôi nghĩ rằng hầu hết mọi người sẽ đồng ý với điều đó. Nếu chúng ta biết cách tạo ra một AGI siêu mạnh có nhiều ưu điểm nhưng cũng có nhược điểm, mã nguồn mở có thể không phải là lựa chọn tốt nhất.
** Vì vậy, chúng tôi đang cố gắng tìm sự cân bằng. **Chúng tôi sẽ mở nguồn một số thứ và khi hiểu biết của chúng tôi về mô hình được cải thiện, chúng tôi sẽ có thể mở nguồn nhiều hơn theo thời gian. Chúng tôi đã phát hành rất nhiều thứ và tôi nghĩ rằng nhiều ý tưởng chính mà những người khác đang xây dựng các mô hình ngôn ngữ hiện nay đến từ các bản phát hành của OpenAI, chẳng hạn như các bài báo GPT ban đầu và luật mở rộng quy mô từ công việc của rohf. Nhưng đó là sự cân bằng mà chúng ta sẽ phải tìm ra khi tiến lên phía trước. Chúng tôi phải đối mặt với nhiều yếu tố gây căng thẳng khác nhau và cần quản lý chúng thành công.
chủ nhà:
Vì vậy, bạn có đang cân nhắc cung cấp mô hình cho một đối tượng cụ thể thay vì mở nguồn cung ứng cho thế giới không? Bạn đang nghĩ gì với tư cách là một nhà khoa học hay khi chúng tôi hoàn thành khóa đào tạo GPT-4?
Bản thân anh ấy:
Chúng tôi đã mất gần tám tháng để hiểu nó, bảo mật nó và tìm ra cách điều chỉnh. Chúng tôi có các kiểm toán viên bên ngoài, đội đỏ và cộng đồng khoa học tham gia. Vì vậy, chúng tôi đang thực hiện các bước này và sẽ tiếp tục làm như vậy.
Những rủi ro AI không thể bỏ qua
chủ nhà:
Tôi nghĩ rằng rủi ro là một vấn đề rất quan trọng và có lẽ có ít nhất ba loại rủi ro.
Đầu tiên là sự xáo trộn kinh tế, trong đó việc làm trở nên dư thừa. Loại thứ hai có thể là những tình huống mà vũ khí mạnh nằm trong tay một số ít người. Ví dụ, nếu tin tặc có thể sử dụng những công cụ này, chúng có thể làm được những việc mà trước đây hàng ngàn tin tặc phải làm. Loại cuối cùng có lẽ là đáng lo ngại nhất, trong đó hệ thống nằm ngoài tầm kiểm soát và ngay cả trình kích hoạt cũng không thể ngăn chặn hành vi của nó. Tôi muốn biết suy nghĩ của bạn về mỗi tình huống có thể xảy ra.
Ilya：
Được rồi, hãy bắt đầu với những kịch bản có thể xảy ra đối với sự hỗn loạn kinh tế. Như bạn đã đề cập, có ba rủi ro trong **: công việc bị xâm phạm, tin tặc có được trí thông minh siêu việt và hệ thống mất kiểm soát. **Sự hỗn loạn kinh tế thực sự là một tình huống mà chúng ta đã quen thuộc, vì một số công việc đã bị ảnh hưởng hoặc gặp rủi ro.
Nói cách khác, một số tác vụ có thể được tự động hóa. Ví dụ, nếu bạn là một lập trình viên, Copilot có thể viết các chức năng cho bạn. Mặc dù điều này khác với trường hợp của các nghệ sĩ, vì nhiều hoạt động kinh tế của các nghệ sĩ đã được thay thế bằng một số công cụ tạo hình ảnh.
Tôi không nghĩ rằng đây thực sự là một câu hỏi đơn giản. **Mặc dù đã tạo ra nhiều việc làm mới, nhưng sự bất ổn về kinh tế sẽ tồn tại trong một thời gian dài. Tôi không chắc chắn nếu đây là trường hợp. **
Tuy nhiên, trong mọi trường hợp, chúng ta cần một thứ gì đó để làm dịu quá trình chuyển đổi sang sự tấn công dữ dội của những nghề nghiệp mới nổi, ngay cả khi những nghề nghiệp đó chưa tồn tại. Điều này cần sự quan tâm của chính quyền và hệ thống xã hội.
Bây giờ hãy nói về hack. Vâng, đây là một câu hỏi khó. AI thực sự mạnh mẽ và kẻ xấu có thể sử dụng nó theo những cách mạnh mẽ. Chúng ta cần áp dụng một khuôn khổ tương tự như các công cụ rất mạnh mẽ và nguy hiểm khác.
Lưu ý rằng chúng ta không nói về trí tuệ nhân tạo ngày nay, mà là khả năng ngày càng tăng theo thời gian. Ngay bây giờ chúng tôi đang ở một điểm thấp, nhưng khi chúng tôi đến đó, nó sẽ rất mạnh mẽ. **Công nghệ này có thể được sử dụng trong những ứng dụng đáng kinh ngạc, nó có thể được sử dụng để chữa bệnh, nhưng nó cũng có thể tạo ra những căn bệnh tồi tệ hơn bất kỳ thứ gì trước đây.
Do đó, chúng ta cần có các cấu trúc để kiểm soát việc sử dụng công nghệ này. Ví dụ, Sam đã gửi cho họ một tài liệu đề xuất một khuôn khổ giống như IAEA để kiểm soát năng lượng hạt nhân nhằm kiểm soát trí tuệ nhân tạo rất mạnh mẽ. **
chủ nhà:
Câu hỏi cuối cùng là về việc trí tuệ nhân tạo siêu thông minh vượt khỏi tầm kiểm soát, có thể nói nó sẽ trở thành một vấn đề lớn, liệu chúng ta có sai lầm khi xây dựng một trí tuệ nhân tạo siêu thông minh mà chúng ta không biết cách kiểm soát hay không.
Bản thân anh ấy:
Tôi có thể thêm một số điểm. Tất nhiên, tôi hoàn toàn đồng ý với câu cuối cùng.
Về mặt kinh tế, tôi thấy khó dự đoán những diễn biến trong tương lai. Tôi nghĩ đó là vì hiện tại có quá nhiều nhu cầu dư thừa trên thế giới và những hệ thống này thực sự hữu ích trong việc giúp hoàn thành công việc. Nhưng trong hầu hết các trường hợp ngày nay, không phải tất cả các nhiệm vụ đều có thể được thực hiện bởi họ.
**Tôi nghĩ rằng trong ngắn hạn, mọi thứ đang có vẻ tốt đẹp và chúng ta sẽ chứng kiến năng suất tăng lên đáng kể. **Nếu chúng ta có thể làm cho các lập trình viên làm việc hiệu quả gấp đôi, lượng mã cần thiết trên thế giới sẽ nhiều hơn gấp ba lần, vì vậy mọi thứ đều ổn.
Về lâu dài, tôi nghĩ rằng các hệ thống này sẽ xử lý các nhiệm vụ và hạng mục công việc ngày càng phức tạp. Một số công việc này có thể biến mất,** nhưng những công việc khác sẽ trở thành những công việc thực sự cần đến con người và các mối quan hệ giữa con người với nhau. ** Mọi người thực sự muốn con người đóng những vai trò này.
Những vai trò này có thể không rõ ràng. Ví dụ, khi Deep Blue đánh bại Garry Kasparov, thế giới lần đầu tiên được chứng kiến trí thông minh nhân tạo. Lúc đó mọi người đều nói cờ vua đã hết và sẽ không ai chơi cờ nữa vì nó không có ý nghĩa.
Tuy nhiên, chúng tôi có một sự đồng thuận rằng cờ vua chưa bao giờ phổ biến hơn thế. Con người mạnh mẽ hơn, chỉ là kỳ vọng được nâng lên. Chúng ta có thể sử dụng những công cụ này để cải thiện kỹ năng của chính mình, nhưng mọi người vẫn thực sự thích chơi cờ và dường như mọi người vẫn quan tâm đến người khác.
Bạn đã đề cập rằng Dolly có thể tạo ra tác phẩm nghệ thuật tuyệt vời, nhưng mọi người vẫn quan tâm đến những người đứng sau tác phẩm nghệ thuật mà họ muốn mua và tất cả chúng tôi đều nghĩ rằng những người sáng tạo đó là đặc biệt và có giá trị.
Lấy cờ vua làm ví dụ, giống như mọi người chú ý nhiều hơn đến cờ vua của con người, nhiều người xem cờ vua hơn bao giờ hết. Tuy nhiên, ít người muốn xem một trận đấu giữa hai AI. Vì vậy, tôi nghĩ rằng chúng sẽ là tất cả những yếu tố không thể đoán trước này. **Tôi nghĩ con người khao khát sự khác biệt (giữa con người và máy móc). **
Nhu cầu tạo ra một cái gì đó mới để đạt được vị thế sẽ luôn tồn tại, nhưng nó sẽ thể hiện theo một cách thực sự khác. Tôi cá rằng công việc trong 100 năm tới sẽ hoàn toàn khác so với công việc ngày nay, và nhiều thứ trong số đó sẽ rất giống nhau. Nhưng tôi thực sự đồng ý với những gì Ilya đã nói, **Dù bất cứ điều gì xảy ra, chúng ta cần một loại hợp đồng kinh tế xã hội khác, bởi vì cho đến nay tự động hóa đã đạt đến những đỉnh cao không thể tưởng tượng được. **
chủ nhà:
Sam, gần đây bạn đã ký một bản kiến nghị kêu gọi xem xét nghiêm túc mối đe dọa hiện hữu của trí tuệ nhân tạo. Có lẽ các công ty như OpenAI nên thực hiện các bước để giải quyết vấn đề này.
Bản thân anh ấy:
Tôi thực sự muốn nhấn mạnh rằng chúng ta không nói về các hệ thống ngày nay ở đây, hoặc các mô hình đào tạo khởi nghiệp nhỏ hoặc cộng đồng nguồn mở.
Tôi nghĩ sẽ là một sai lầm nếu áp đặt quy định nặng nề trong lĩnh vực này ngay bây giờ hoặc cố gắng làm chậm sự đổi mới đáng kinh ngạc. Thực sự không muốn tạo ra một siêu trí tuệ không nhất quán dường như không thể chối cãi. **Tôi nghĩ thế giới không nên coi đây là một rủi ro khoa học viễn tưởng sẽ không bao giờ xảy ra, mà là một thứ chúng ta có thể phải đối phó trong thập kỷ tới, sẽ mất thời gian để làm quen với một số thứ, nhưng sẽ ổn thôi' không được lâu. **
Vì vậy, chúng tôi đã đưa ra một ý tưởng và hy vọng một ý tưởng tốt hơn. Nếu chúng ta có thể xây dựng một tổ chức toàn cầu, với sức mạnh điện toán và biên giới công nghệ ở mức cao nhất, thì có thể phát triển một khuôn khổ để cấp phép cho các mô hình và kiểm tra tính bảo mật của chúng để đảm bảo rằng chúng vượt qua các bài kiểm tra cần thiết. Điều này sẽ giúp chúng tôi xem vấn đề này là một rủi ro rất nghiêm trọng. Chúng tôi làm điều gì đó tương tự với năng lượng hạt nhân.
Trong tương lai, AI sẽ tăng tốc khám phá khoa học? Chữa bệnh, giải quyết vấn đề khí hậu?
chủ nhà:
Hãy nói về lợi thế. Trong môi trường khoa học mà chúng ta đang ở, tôi tự hỏi về vai trò của trí tuệ nhân tạo. Trong một vài năm nữa, có thể trong tương lai, chúng ta sẽ có điều gì đó khoa học để khám phá.
Bản thân anh ấy:
**Đây là điều cá nhân tôi hào hứng nhất về AI. **Tôi nghĩ rằng có rất nhiều điều thú vị đang diễn ra, lợi ích kinh tế to lớn, lợi ích chăm sóc sức khỏe to lớn. Nhưng trên thực tế, trí tuệ nhân tạo có thể giúp chúng ta thực hiện một số khám phá khoa học mà hiện tại không thể thực hiện được. Chúng tôi rất thích tìm hiểu về những bí ẩn của vũ trụ và hơn thế nữa. Tôi thực sự tin rằng tiến bộ khoa học và công nghệ là cách bền vững duy nhất để làm cho cuộc sống tốt đẹp hơn và thế giới trở nên tốt đẹp hơn.
Nếu chúng ta có thể phát triển nhiều tiến bộ khoa học và công nghệ mới, tôi nghĩ rằng chúng ta đã nhìn thấy sự khởi đầu của con người. Sử dụng các công cụ này để tăng hiệu quả. Nhưng nếu bạn tưởng tượng một thế giới mà bạn có thể nói, "Này, tôi có thể giúp chữa khỏi mọi bệnh tật," và nó có thể giúp bạn chữa khỏi mọi bệnh tật, thì thế giới đó có thể là một nơi tốt đẹp hơn. Tôi không nghĩ chúng ta cách xa điều đó.
chủ nhà:
Ngoài bệnh tật, một vấn đề lớn khác là biến đổi khí hậu, một vấn đề rất khó giải quyết. Nhưng tôi không nghĩ việc đối phó với biến đổi khí hậu sẽ không đặc biệt khó khăn một khi chúng ta có những hệ thống siêu trí tuệ thực sự mạnh mẽ.
Ilya：
Có, bạn cần thu hồi nhiều carbon. Bạn cần năng lượng để thu hồi carbon và bạn cần công nghệ để tạo ra nó. Nếu bạn có thể tăng tốc khoa học, bạn cần phải xây dựng rất nhiều. Tiến bộ là điều mà trí tuệ nhân tạo mạnh mẽ có thể làm được và chúng ta có thể đạt được khả năng thu hồi carbon rất tiên tiến nhanh hơn nhiều. Nó có thể đạt được mức điện rất rẻ nhanh hơn, chúng ta có thể đạt được sản xuất rẻ hơn nhanh hơn. Bây giờ hãy kết hợp cả ba yếu tố điện giá rẻ, sản xuất rẻ và thu hồi carbon tiên tiến, và bây giờ bạn xây dựng rất nhiều trong số chúng, và bây giờ bạn hút tất cả lượng CO2 dư thừa này ra khỏi bầu khí quyển.
** Nếu bạn có một trí tuệ nhân tạo mạnh mẽ, nó sẽ thúc đẩy tiến bộ của khoa học và kỹ thuật một cách đáng kể. **Điều này sẽ làm cho việc lập kế hoạch dễ dàng hơn nhiều ngày hôm nay. Tôi tin rằng điều này sẽ tạo điều kiện đẩy nhanh tiến độ. Điều này cho thấy rằng chúng ta nên ước mơ lớn hơn. Bạn có thể tưởng tượng rằng nếu bạn có thể thiết kế một hệ thống, bạn có thể yêu cầu nó cho bạn biết cách tạo ra một lượng lớn năng lượng sạch với chi phí thấp, cách thu giữ carbon hiệu quả và hướng dẫn bạn xây dựng một nhà máy có thể làm được những điều đó . Nếu bạn có thể đạt được những điều này, thì bạn cũng có thể đạt được trong nhiều lĩnh vực khác.
Trò chuyện tuyệt vờiGPT
chủ nhà:
Khi biết rằng bạn không nghĩ rằng ChatGPT sẽ phổ biến rộng rãi như vậy, tôi tự hỏi liệu có bất kỳ ví dụ nào về việc những người khác thực sự ngạc nhiên trước giá trị và khả năng của nó hay không.
Ilya：
Tôi đã rất ngạc nhiên và vui mừng khi bố mẹ kể cho tôi nghe bạn bè của họ sử dụng ChatGPT như thế nào trong cuộc sống hàng ngày. Thật khó để chọn ra một câu chuyện trong số rất nhiều câu chuyện đáng yêu thể hiện sự sáng tạo tuyệt vời của con người và cách mọi người khai thác công cụ mạnh mẽ này.
Thật tuyệt vời đối với chúng tôi trong lĩnh vực giáo dục và nhìn thấy rất nhiều người viết những từ có thể thay đổi cuộc sống của họ như thế này thực sự là một sự biến đổi đối với tôi bởi vì bây giờ tôi có thể học bất cứ điều gì, tôi học những điều cụ thể hoặc Nói những điều mà tôi không biết làm thế nào để làm trước đây, tôi làm bây giờ.
Cá nhân tôi thấy mọi người học theo một cách mới và tốt hơn và tưởng tượng rằng nó sẽ như thế nào trong một vài năm nữa là rất hài lòng và tốt đẹp. Với tốc độ này, chúng tôi không hoàn toàn mong đợi điều này xảy ra, điều này thực sự tuyệt vời.
Sau đó, có một câu chuyện thú vị, mà tôi chỉ mới nghe ngày hôm qua. Người ta nói rằng một người đàn ông thường dành hai giờ mỗi tối để viết những câu chuyện trước khi đi ngủ với con mình. Những câu chuyện này đều là những điều yêu thích của trẻ em, và nó trở thành một khoảnh khắc đặc biệt. Họ đã có một thời gian tuyệt vời mỗi đêm.
Câu hỏi của khán giả:
Sam: Không nói nên lời...
Ilya：
Liên quan đến câu hỏi về các mô hình nguồn mở và không phải nguồn mở, chúng ta không cần phải suy nghĩ theo thuật ngữ đen trắng nhị phân. Nó giống như tồn tại một nguồn bí mật mà bạn không bao giờ có thể khám phá lại.
**Có thể một ngày nào đó sẽ có một mô hình nguồn mở sao chép các khả năng của GPT-4, nhưng quá trình này sẽ mất thời gian và đến lúc đó, một mô hình như vậy có thể trở thành một mô hình mạnh mẽ hơn trong một công ty lớn. **Do đó, sẽ luôn có khoảng cách giữa mô hình nguồn mở và mô hình riêng tư và khoảng cách này có thể tăng dần. Khối lượng công việc, kỹ thuật và nghiên cứu cần thiết để tạo ra một mạng thần kinh như vậy sẽ tiếp tục tăng lên.
Vì vậy, **ngay cả khi các mô hình nguồn mở tồn tại, chúng sẽ ngày càng ít được tạo ra bởi một nhóm nhỏ các nhà nghiên cứu và kỹ sư chuyên dụng, nó sẽ chỉ là một công ty, một công ty lớn (đóng góp cho nguồn mở). **
Bản thân anh ấy:
Tôi nghĩ rằng đây là một câu hỏi rất công bằng và quan trọng. Phần khó nhất trong công việc của chúng tôi là cân bằng tiềm năng to lớn do trí tuệ nhân tạo mang lại với những rủi ro nghiêm trọng liên quan đến nó. Chúng ta cần dành thời gian để thảo luận về lý do tại sao chúng ta phải đối mặt với những rủi ro này và tại sao chúng lại ở vị trí đầu tiên.
Tôi nghĩ mọi thứ sẽ tốt hơn khi chúng ta nhìn lại mức sống ngày nay và sự khoan dung ngày càng tăng của chúng ta đối với con người. So với 500 hay 1000 năm trước, điều kiện sống của con người đã được cải thiện rất nhiều. Chúng tôi tự hỏi mình, bạn có thể tưởng tượng những người sống trong cảnh nghèo đói cùng cực không? Bạn có thể tưởng tượng những người bị bệnh? Bạn có thể tưởng tượng một tình huống mà tất cả mọi người không được giáo dục tốt không? Đây là những thực tế của thời kỳ man rợ.
**Mặc dù AI gây ra một số rủi ro nhưng chúng ta cũng nhận thấy tiềm năng của nó trong việc cải thiện cuộc sống của chúng ta, thúc đẩy nghiên cứu khoa học và giải quyết các vấn đề toàn cầu. **
Chúng ta cần tiếp tục phát triển AI một cách có trách nhiệm, với các biện pháp quản lý được áp dụng để đảm bảo các vấn đề về an toàn và đạo đức được giải quyết đúng cách. Mục tiêu của chúng tôi là làm cho trí tuệ nhân tạo trở thành một công cụ cho sự tiến bộ của con người chứ không phải là một mối đe dọa. Điều này đòi hỏi những nỗ lực chung của chúng ta, bao gồm sự tham gia của cộng đồng kỹ thuật, chính phủ và tất cả các bên trong xã hội, để thiết lập một khuôn khổ đạo đức và bền vững cho sự phát triển của trí tuệ nhân tạo.
Làm thế nào để làm điều đó, tôi cũng nghĩ nó giống như sự tiến bộ không thể ngăn cản. Công nghệ không đứng yên, nó tiếp tục phát triển. Vì vậy, với tư cách là một công ty lớn, chúng tôi phải tìm ra cách quản lý rủi ro đi kèm với điều đó.
Một phần lý do là rủi ro và cách tiếp cận cần thiết để giải quyết nó là bất thường. Chúng tôi phải tạo ra một khuôn khổ khác với cấu trúc truyền thống. Chúng tôi có giới hạn lợi nhuận và tôi tin rằng các ưu đãi là một yếu tố quan trọng. Nếu bạn thiết kế các biện pháp khuyến khích phù hợp, nó thường có thể dẫn đến hành vi bạn muốn.
Vì vậy, chúng tôi cố gắng đảm bảo rằng mọi thứ hoạt động tốt và không tạo ra nhiều hơn hoặc ít hơn lợi nhuận. Chúng tôi không có cấu trúc khuyến khích như một công ty như Facebook, điều mà tôi nghĩ là tuyệt vời, mọi người ở Facebook đang ở trong cấu trúc khuyến khích, nhưng cấu trúc đó có một số thách thức.
Chúng tôi cố gắng tích lũy kinh nghiệm bằng AGI. Như Ilya thường đề cập, ban đầu chúng tôi thử trải nghiệm AGI khi thành lập công ty và sau đó xây dựng cơ cấu lợi nhuận. Do đó, chúng ta cần đạt được sự cân bằng giữa các yêu cầu về tài nguyên tính toán và tập trung vào nhiệm vụ. Một trong những chủ đề mà chúng ta thảo luận là loại cấu trúc nào cho phép chúng ta nhiệt tình chấp nhận quy định, ngay cả khi điều đó gây tổn hại cho chúng ta nhiều nhất.
Bây giờ là lúc,** chúng ta đang thúc đẩy quy định trên toàn cầu sẽ có tác động lớn nhất đến chúng ta. **Tất nhiên chúng tôi tuân theo các quy tắc, tôi nghĩ rằng khi mọi người gặp rủi ro, họ sẽ dễ dàng cư xử tốt hơn, họ sẽ dễ dàng tìm kiếm mục đích hơn. Vì vậy, tôi nghĩ rằng chủ sở hữu của những doanh nghiệp hàng đầu này đang cảm nhận được điều đó và bạn sẽ thấy họ phản ứng khác với các công ty truyền thông xã hội. Tôi nghĩ rằng tất cả những nghi ngờ và mối quan tâm là chính đáng. Chúng ta đấu tranh với vấn đề này hàng ngày và không có câu trả lời dễ dàng nào cho nó.
Ilya：
Khoảng cách giữa các mô hình bạn đề cập thực sự là một vấn đề.
Ý tôi là, bây giờ chúng tôi có GPT-4, bạn biết đấy, chúng tôi đang đào tạo, bạn có quyền truy cập vào GPT-4,** và chúng tôi đang thực sự làm việc trên mô hình tương lai tiếp theo. **
Có lẽ tôi có thể mô tả khoảng cách này theo cách sau: Khi chúng tôi tiếp tục xây dựng và cải thiện các mô hình AI với các khả năng được nâng cao, sẽ có một khoảng cách lớn hơn đòi hỏi thời gian và thời gian thử nghiệm lâu hơn. Chúng tôi làm việc với nhóm để hiểu những hạn chế của mô hình và tất cả những cách bạn biết, hãy sử dụng nó nhiều nhất có thể, nhưng chúng tôi cũng dần dần mở rộng mô hình.
Ví dụ: GPT-4 hiện có khả năng nhận dạng hình ảnh và bạn (phiên bản bạn đang sử dụng) chưa khởi chạy tính năng này vì công việc cuối cùng chưa được hoàn thành. Nhưng chúng ta sẽ sớm đạt được điều này. Vì vậy, tôi nghĩ rằng câu trả lời cho câu hỏi của bạn, có thể không quá xa trong tương lai.
*Lưu ý: Basilisk của Roko là ám chỉ đến một cuộc thảo luận trực tuyến và thử nghiệm suy nghĩ liên quan đến các giả thuyết về siêu trí tuệ trong tương lai. *
*Người ta nói rằng siêu trí tuệ này có thể thu thập thông tin thông qua du hành thời gian hoặc các phương tiện khác mà con người gây ra đau đớn cho nó và trừng phạt những ai không giúp nó được sinh ra. Do đó, sự ám chỉ này đặt ra một vấn đề nan giải về đạo đức: liệu sự phát triển của siêu trí tuệ có nên được hỗ trợ và thúc đẩy ngay bây giờ để tránh bị trừng phạt có thể xảy ra trong tương lai hay không. *
Ilya：
Mặc dù Basilisk của Rocco không phải là thứ mà chúng tôi đặc biệt quan tâm, nhưng chúng tôi chắc chắn rất quan tâm đến siêu trí tuệ.
Có lẽ không phải tất cả mọi người, thậm chí không phải tất cả khán giả đều hiểu chúng tôi muốn nói gì về siêu trí tuệ.
Điều chúng ta đang đề cập đến là khả năng một ngày nào đó sẽ xây dựng một máy tính, một cụm máy tính ở dạng GPU, thông minh hơn bất kỳ ai và có khả năng thực hiện khoa học và nghiên cứu nhanh hơn so với một nhóm lớn các nhà khoa học và kỹ sư giàu kinh nghiệm. .
Điều đó thật điên rồ, và nó sẽ có tác động rất lớn.
Nó có thể thiết kế phiên bản tiếp theo của hệ thống AI và xây dựng một AI rất mạnh mẽ. Vì vậy, lập trường của chúng tôi là **siêu trí tuệ có những tác động sâu rộng, nó có thể có những tác động rất tích cực, nhưng nó cũng rất nguy hiểm và chúng ta cần cẩn thận với nó. **
Đây là nơi mà cách tiếp cận của IAEA (Cơ quan Năng lượng Nguyên tử Quốc tế) mà bạn đã đề cập áp dụng cho các hệ thống tiên tiến nhất và siêu trí tuệ trong tương lai. Chúng ta cần thực hiện nhiều nghiên cứu để khai thác sức mạnh của một trí tuệ siêu việt sao cho phù hợp với kỳ vọng của chúng ta, vì lợi ích của chúng ta và vì lợi ích của nhân loại.
Đây là quan điểm của chúng tôi về siêu trí tuệ, là thách thức cuối cùng về siêu trí tuệ mà nhân loại phải đối mặt.
Nhìn lại lịch sử tiến hóa của loài người, thể tự sao đơn bào đã xuất hiện cách đây khoảng 4 tỷ năm. Sau đó, trải qua hàng tỷ năm, nhiều loại sinh vật đơn bào khác nhau đã xuất hiện. Khoảng một tỷ năm trước, sự sống đa bào bắt đầu xuất hiện. Hàng trăm triệu năm trước, loài bò sát đã xuất hiện trên trái đất. Động vật có vú xuất hiện khoảng 60 triệu năm trước. Khoảng 1 triệu năm trước, loài linh trưởng xuất hiện, sau đó là sự xuất hiện của Homo sapiens. 10.000 năm sau, chữ viết xuất hiện. Sau đó là Cách mạng Nông nghiệp, Cách mạng Công nghiệp và Cách mạng Công nghệ. Bây giờ, cuối cùng chúng ta đã có AGI, siêu trí tuệ cuối cùng và thách thức cuối cùng của chúng ta.
Bản thân anh ấy:
Tôi nghĩ dù sao thì việc học khoa học máy tính cũng có giá trị.
Mặc dù tôi hầu như không bao giờ tự mình viết mã, nhưng tôi coi việc nghiên cứu khoa học máy tính là một trong những điều tuyệt vời nhất mà tôi từng làm. Nó dạy tôi cách suy nghĩ và giải quyết vấn đề, những kỹ năng rất hữu ích trong bất kỳ lĩnh vực nào. **
Ngay cả khi công việc của một lập trình viên máy tính có vẻ khác sau 10 đến 15 năm kể từ bây giờ, học cách học là một trong những kỹ năng quan trọng nhất, bao gồm học những điều mới một cách nhanh chóng, dự đoán xu hướng trong tương lai, dễ thích nghi và kiên cường, hiểu nhu cầu của người khác và cách thức trở nên hữu ích.
Vì vậy, chắc chắn bản chất của công việc sẽ thay đổi, nhưng tôi không thể tưởng tượng ra một thế giới nơi mọi người không dành thời gian để làm điều gì đó tạo ra giá trị cho người khác và tất cả những lợi ích đi kèm với nó. Có thể trong tương lai, chúng ta sẽ quan tâm đến việc ai có thiên hà mát mẻ hơn, nhưng một số điều tốt đẹp (như tạo ra giá trị) sẽ không thay đổi.
Ilya：
Ý tôi là, theo cách tốt nhất có thể.