1 The Coming Wave - Technology, Po - Mustafa Suleyman Michael Bhaska

Machine Translated by Google
khen ngợi trước cho
CÁC
SÓNG TỚI
“Làn sóng sắp tới là một cuốn sách hấp dẫn, được viết hay và quan trọng.
Nó khám phá những mối nguy hiểm hiện hữu mà AI và công nghệ sinh học gây ra cho loài
người, đồng thời đưa ra các giải pháp thiết thực về cách chúng ta có thể ngăn chặn mối
đe dọa này. Làn sóng công nghệ sắp tới hứa hẹn sẽ mang đến cho nhân loại những sức
mạnh sáng tạo thần thánh, nhưng nếu chúng ta không quản lý nó một cách khôn ngoan, nó
có thể hủy diệt chúng ta.”
—Yuval Noah Harari, tác giả cuốn sách bán chạy nhất New York Times về
Sapiens
“Lời cảnh tỉnh từ tương lai này cảnh báo về những gì sắp xảy ra cũng như những tác
động chính trị và kinh tế toàn cầu có thể xảy ra.
Thực sự đáng chú ý, đầy tham vọng và không thể bỏ qua, cuốn sách này là một thành tựu
thuyết phục của một chuyên gia hàng đầu trong ngành, cuốn sách này sẽ định hình quan
điểm của bạn về tương lai—và điều chỉnh lại sự hiểu biết của bạn về hiện tại.”
—Nouriel Roubini, giáo sư danh dự tại New York
Trường đại học
“Cái nhìn sâu sắc của Mustafa Suleyman với tư cách là một nhà công nghệ, doanh nhân và
người có tầm nhìn xa là điều cần thiết. Được nghiên cứu sâu sắc và có tính liên quan
cao, cuốn sách này cung cấp cái nhìn sâu sắc và sâu sắc về một số thách thức quan
trọng nhất của thời đại chúng ta.”
—Al Gore, cựu phó tổng thống Hoa Kỳ

“Trong cuốn sách táo bạo này, Mustafa Suleyman, một trong những người trong cuộc
thực sự của công nghệ cao, đề cập đến nghịch lý quan trọng nhất của thời đại chúng
ta: chúng ta phải chứa đựng những công nghệ không thể kiểm soát được. Như ông
giải thích, AI sáng tạo, sinh học tổng hợp, robot và các cải tiến khác đang được
cải thiện và lan rộng nhanh chóng. Chúng mang lại những lợi ích to lớn nhưng cũng
có những rủi ro thực sự và ngày càng tăng. Suleyman đủ khôn ngoan để biết rằng
không có kế hoạch ba điểm đơn giản nào để quản lý những rủi ro này và đủ dũng cảm
để nói với chúng tôi điều đó. Cuốn sách này trung thực, đầy nhiệt huyết và không
ngại đối đầu với những gì rõ ràng là một trong những thách thức lớn mà loài người
chúng ta sẽ phải đối mặt trong thế kỷ này. Nhờ Suleyman, chúng tôi biết tình hình
hiện tại và những lựa chọn của mình. Bây giờ tùy chúng ta hành động.”
—Andrew McAfee, nhà khoa học nghiên cứu chính tại MIT
Sloan, tác giả cuốn The Geek Way
“Cuộc cách mạng AI đang diễn ra, nhưng chúng ta thực sự hiểu nó đến mức nào? Làn
sóng sắp tới đưa ra một hướng dẫn uyên bác, rõ ràng cả về lịch sử của sự thay đổi
công nghệ căn bản cũng như những thách thức chính trị sâu sắc đang ở phía trước.”
—Anne Applebaum, nhà sử học đoạt giải Pulitzer
“Khi thư này đến hộp thư đến của tôi, tôi xóa nhật ký và đọc.
Đây là một cuốn sách đặc biệt và cần thiết; ý nghĩ đầy cảm hứng là trong hai mươi
năm nữa , nó sẽ gần giống như một tầm nhìn bảo thủ về tương lai, trong khi ngay
bây giờ, không thể đọc mà không dừng lại sau mỗi vài trang để tự hỏi: Điều này có
thể đúng không? Cuốn sách thật tài tình khi giải thích một cách tỉnh táo và nhẹ
nhàng rằng đúng vậy, tất cả những điều này sẽ trở thành sự thật—và tại sao và như
thế nào. Giọng điệu nhẹ nhàng, nhân hậu và đồng cảm với cảm giác bàng hoàng của
người đọc. Có những khoảnh khắc đáng sợ, đáng lẽ phải có khi người ta nhận ra rằng
hầu hết những gì quen thuộc sắp bị biến đổi. Nhưng cuối cùng, người ta vẫn tràn
đầy năng lượng và hồi hộp vì được sống ngay bây giờ. Sóng sắp ập đến và đây là dự
báo.”
—Alain de Botton, triết gia và tác giả sách bán chạy nhất
“Làn sóng sắp tới cung cấp một lượng thông tin cụ thể, hiện thực và rõ ràng rất cần
thiết về những hậu quả tai hại tiềm tàng không lường trước được của trí tuệ nhân tạo,
sinh học tổng hợp và các công nghệ tiên tiến khác. Cuốn sách quan trọng này là một
lộ trình sống động và thuyết phục về cách con người có thể dẫn dắt những đổi mới công
nghệ thay vì bị chúng kiểm soát.”
—Martha Minow, giáo sư Harvard, nguyên hiệu trưởng Trường Luật

Harvard
“Không ai đến gần cuộc cách mạng AI đang diễn ra hơn Mustafa Suleyman, và không ai
có đủ khả năng để vạch ra những rủi ro và lợi ích của những thay đổi công nghệ to
lớn đang diễn ra ngay bây giờ.
Đây là một hướng dẫn đặc biệt và hoàn toàn không thể chấp nhận được về thời điểm độc
đáo này trong lịch sử nhân loại.”
—Eric Schmidt, cựu CEO của Google, đồng tác giả cuốn The Age of AI
“Trong Làn sóng sắp tới, Mustafa Suleyman đưa ra một lập luận mạnh mẽ rằng cuộc cách
mạng công nghệ bùng nổ ngày nay đã sẵn sàng mang tính đột phá đặc biệt. Hãy đọc cuốn
sách cần thiết này để hiểu tốc độ và quy mô của những công nghệ này—chúng sẽ phổ biến
như thế nào trong xã hội của chúng ta cũng như tiềm năng của chúng trong việc thách
thức cơ cấu tổ chức tổ chức thế giới của chúng ta.”
—Ian Bremmer, người sáng lập Eurasia Group, tác giả cuốn sách bán
chạy nhất The Power of Crisis
“Cuốn sách quan trọng này vừa truyền cảm hứng vừa đáng sợ. Đó là một nền giáo dục
quan trọng dành cho những người không hiểu các cuộc cách mạng công nghệ mà chúng ta
đang trải qua và là một thách thức trực diện đối với những người hiểu được. Cuốn sách
này viết về tương lai cho tất cả chúng ta: chúng ta cần đọc nó và hành động vì nó.”
—David Miliband, cựu ngoại trưởng Vương quốc Anh

“Trình bày đánh giá rõ ràng về mối nguy hiểm cũng như những điều kỳ diệu của AI,
Mustafa Suleyman đề xuất một chương trình hành động khẩn cấp mà các chính phủ phải
thực hiện ngay bây giờ để hạn chế những ứng dụng có khả năng gây thảm họa cao nhất
của thách thức mang tính cách mạng này.”
—Graham Allison, giáo sư Harvard, tác giả cuốn sách bán chạy nhất
Định mệnh cho chiến tranh
“Tốc độ nhanh chóng của công nghệ theo cấp số nhân đã khiến chúng ta choáng ngợp
trước sức mạnh và sự nguy hiểm của nó. Mustafa Suleyman, khi truy tìm lịch sử phát
triển công nghiệp cho đến sự tăng tốc chóng mặt của những tiến bộ công nghệ gần đây,
đã cho chúng ta một bức tranh lớn hơn bằng văn xuôi điềm tĩnh, thực dụng và đạo đức
sâu sắc. Hành trình và trải nghiệm cá nhân của anh ấy đã nâng cao Làn sóng sắp tới và
khiến nó trở nên lôi cuốn khi đọc đối với những ai muốn lùi bước trước làn sóng tin
tức công nghệ dồn dập hàng ngày.”
—Angela Kane, cựu thứ trưởng Liên hợp quốc và đại diện cấp cao về
các vấn đề giải trừ quân bị
“Một cánh cửa cực kỳ hấp dẫn để nhìn vào sự phát triển hiện tại và tương lai theo cấp
số nhân của AI—từ người trong cuộc…Nếu bạn thực sự muốn hiểu cách xã hội có thể điều
hướng công nghệ thay đổi thế giới này một cách an toàn, hãy đọc cuốn sách này.”
—Bruce Schneier, chuyên gia an ninh mạng, tác giả của A

Tâm trí của hacker
“Làn sóng sắp tới của AI và sinh học tổng hợp sẽ khiến thập kỷ tiếp theo trở thành
thập kỷ tốt đẹp nhất trong lịch sử loài người. Hoặc điều tồi tệ nhất. Không ai nhận
ra và giải thích những thách thức to lớn phía trước tốt hơn Mustafa Suleyman. Kích
thích tư duy, cấp bách và được viết bằng lối văn xuôi mạnh mẽ, dễ tiếp cận, đây là
cuốn sách phải đọc cho bất kỳ ai muốn tìm hiểu sức mạnh đáng kinh ngạc của những công
nghệ này.”
—Erik Brynjolfsson, giáo sư, Stanford lấy con người làm trung tâm
Trí tuệ nhân tạo

“Một trong những thách thức lớn nhất mà thế giới phải đối mặt là đưa ra các hình
thức quản trị khai thác lợi ích của AI và công nghệ sinh học trong khi tránh được
những rủi ro thảm khốc của chúng. Cuốn sách này cung cấp một tài khoản sâu sắc về
'thách thức ngăn chặn' của hai công nghệ này. Nó được nghiên cứu tỉ mỉ và chứa đựng
những hiểu biết sâu sắc và khuyến nghị mang tính xây dựng cho các nhà hoạch định
chính sách và chuyên gia bảo mật.”
—Jason Matheny, CEO của RAND, cựu trợ lý giám đốc tình báo quốc gia,
cựu giám đốc IARPA
“Nếu bạn muốn hiểu ý nghĩa, hứa hẹn và mối đe dọa của làn sóng thủy triều sắp tới
của các công nghệ biến đổi thậm chí còn đang phình to và hội tụ ở đó, thì cuốn sách
vô cùng bổ ích và đáng kinh ngạc này của Mustafa Suleyman, một trong những cuốn sách
quan trọng những người tiên phong về trí tuệ nhân tạo, là một cuốn sách hoàn toàn
cần thiết.”
—Stephen Fry, diễn viên, phát thanh viên và tác giả sách bán chạy nhất
“Cuốn sách quan trọng này là một lời cảnh tỉnh sống động. Nó phác thảo cẩn thận các
mối đe dọa và cơ hội liên quan đến những tiến bộ khoa học đáng phấn khởi trong những
năm gần đây. Làn sóng sắp tới rất phong phú với những sự kiện thú vị, những lập luận
hấp dẫn và những quan sát thuyết phục; đó là việc đọc cần thiết.”
—Daniel Kahneman, người đoạt giải Nobel, tác giả cuốn sách bán
chạy nhất Tư duy nhanh và chậm
“Làn sóng sắp tới là một cuốn sách cực kỳ rõ ràng, tràn đầy năng lượng, được nghiên
cứu kỹ lưỡng và dễ đọc về tiền tuyến của cuộc cách mạng công nghệ vĩ đại nhất trong
thời đại chúng ta. Nó đan xen các câu chuyện cá nhân và công nghệ một cách liền
mạch, đồng thời cho thấy tại sao việc quản lý tốt hơn các công nghệ vô cùng mạnh mẽ
lại vừa quan trọng vừa khó khăn đến vậy.”
—Sir Geoff Mulgan, giáo sư tại Đại học Cao đẳng

London
“Phân tích tốt nhất về ý nghĩa của AI đối với tương lai của nhân loại…
Mustafa Suleyman là người đồng sáng lập duy nhất của không chỉ một mà là hai công ty
AI lớn đương thời. Anh ấy là một doanh nhân tài năng sâu sắc, một nhà tư tưởng sâu
sắc và là một trong những tiếng nói quan trọng nhất về làn sóng công nghệ sắp tới sẽ
định hình thế giới của chúng ta.”
—Reid Hoffman, đồng sáng lập LinkedIn và Inflection
“Công nghệ đang biến đổi xã hội một cách nhanh chóng và do đó, điều quan trọng hơn
bao giờ hết là thấy ai đó trong ngành công nghệ viết một cách trung thực và nghiêm
túc như vậy. Đưa chúng ta từ những công cụ đầu tiên đến trung tâm của sự bùng nổ về
khả năng và nghiên cứu AI hiện nay, cuốn sách này là một cuộc khảo sát toàn cảnh và
là lời kêu gọi hành động rõ ràng không thể bỏ qua. Mọi người nên đọc nó.”
—Fei-Fei Li, giáo sư khoa học máy tính tại Stanford
Đại học, đồng giám đốc Viện lấy con người làm trung tâm
trí tuệ nhân tạo
“Làn sóng sắp tới đưa ra một trường hợp mở mang tầm mắt và thuyết phục rằng các công
nghệ tiên tiến đang định hình lại mọi khía cạnh của xã hội: quyền lực, sự giàu có,
chiến tranh, công việc và thậm chí cả các mối quan hệ giữa con người với nhau. Chúng
ta có thể kiểm soát những công nghệ mới này trước khi chúng kiểm soát chúng ta không?
Là người dẫn đầu thế giới về trí tuệ nhân tạo và là người ủng hộ lâu năm cho các
chính phủ, công nghệ lớn và xã hội dân sự hành động vì lợi ích chung, Mustafa
Suleyman là người hướng dẫn lý tưởng cho câu hỏi quan trọng này.”
—Jeffrey D. Sachs, Giáo sư Đại học tại Đại học Columbia, chủ tịch
Mạng lưới Giải pháp Phát triển Bền vững của Liên Hợp Quốc
“Là một cách trình bày sắc sảo, nhân ái và không khoan nhượng về vấn đề gây hậu quả
lớn nhất của thời đại chúng ta, Làn sóng sắp tới là một cuốn sách phải đọc đối với
những người thực hành công nghệ, nhưng quan trọng hơn, nó là lời kêu gọi hành động
kiên quyết đối với tất cả chúng ta cùng tham gia vào cuộc giải quyết có hậu quả lớn
nhất này. đàm luận."
—Qi Lu, CEO của MiraclePlus, cựu COO của Baidu, cựu EVP của
Microsoft Bing
“Suleyman có vị trí đặc biệt tốt để nói rõ những hậu quả nghiêm trọng tiềm tàng
—biến động địa chính trị, chiến tranh, sự xói mòn của quốc gia-nhà nước—của sự
phát triển không giới hạn của AI và sinh học tổng hợp, vào thời điểm chúng ta
cần thông điệp này nhất. Thật may mắn cho người đọc, anh ấy cũng đã suy nghĩ
sâu sắc về những gì cần phải làm để đảm bảo rằng các công nghệ mới nổi được sử
dụng vì lợi ích của con người, đưa ra một loạt nỗ lực gia tăng mà nếu được
thực hiện chung có thể thay đổi môi trường trong đó các công nghệ này được
phát triển và phổ biến. , mở ra cánh cửa bảo tồn tương lai tươi sáng hơn đó.
Cuốn sách này là phải đọc."
—Meghan L. O'Sullivan, giám đốc Trung tâm Khoa học và Quan hệ
Quốc tế Belfer tại Trường Chính phủ Harvard Kennedy
“Một lời cảnh tỉnh dũng cảm mà tất cả chúng ta cần phải trả lời—trước khi quá
muộn…Mustafa Suleyman giải thích một cách rõ ràng và chính xác về những rủi ro
do các công nghệ lỗi thời gây ra và những thách thức mà nhân loại phải đối
mặt…. Việc đọc không thể thiếu.”

—Tristan Harris, đồng sáng lập và giám đốc điều hành của
Trung tâm Công nghệ Nhân đạo
“Một lộ trình hành động thực tế và lạc quan về vấn đề quan trọng nhất của thời
đại chúng ta: làm thế nào để duy trì quyền lực đối với các thực thể mạnh hơn
chúng ta rất nhiều.”
—Stuart Russell, giáo sư khoa học máy tính tại
đại học California, Berkeley
“Làn sóng sắp tới là một bản đồ thực tế, có thông tin sâu sắc và dễ tiếp cận
về những thách thức quản trị và an ninh quốc gia chưa từng có do trí tuệ nhân
tạo và sinh học tổng hợp đặt ra. Suleyman đáng chú ý và ở một khía cạnh nào đó
đáng sợ
cuốn sách chỉ ra những gì phải làm để ngăn chặn những công nghệ dường như không
thể kiểm soát được này.”

—Jack Goldsmith, Giáo sư Luật tại Đại học Harvard
“Rực rỡ và hấp dẫn, phức tạp và rõ ràng, cấp bách và bình tĩnh, Làn sóng sắp tới
hướng dẫn tất cả chúng ta hiểu và đối mặt với câu hỏi có thể là quan trọng nhất
của thế kỷ chúng ta: Làm thế nào chúng ta có thể đảm bảo rằng những cuộc cách
mạng công nghệ ngoạn mục, nhịp độ nhanh phía trước—AI , sinh học tổng hợp, v.v.—
tạo ra thế giới mà chúng ta mong muốn? Mọi chuyện sẽ không dễ dàng nhưng Suleyman
đã đặt nền móng vững chắc. Những ai quan tâm đến tương lai nên đọc cuốn sách này.”
—Eric Lander, giám đốc sáng lập Viện Broad

MIT và Harvard, cựu cố vấn khoa học Nhà Trắng
“Là một bản tường trình hết sức rõ ràng và cân bằng mới mẻ về tình trạng khó
khăn công nghệ hiện tại của chúng ta, Làn sóng sắp tới trình bày rõ thách thức
mang tính quyết định của thời đại chúng ta. Kết hợp giữa chủ nghĩa thực dụng với
sự khiêm tốn, nó nhắc nhở chúng ta rằng không có sự phân đôi rõ ràng hay câu trả
lời đơn giản nào: công nghệ đã ban tặng cho chúng ta những cải thiện về hạnh
phúc theo cấp số nhân, nhưng nó đang tăng tốc nhanh hơn mức các tổ chức có thể thích ứng.
Những tiến bộ trong AI và sinh học tổng hợp đã mở ra những khả năng mà khoa học
viễn tưởng không thể tưởng tượng được, và sự gia tăng sức mạnh dẫn đến đe dọa
mọi thứ chúng ta đã xây dựng. Để tiếp tục tồn tại, chúng ta phải lèo lái giữa
Scylla của thảm họa có thể tiếp cận và Charybdis của sự giám sát khắp nơi. Với
mỗi trang được lật, tỷ lệ cược của chúng tôi sẽ được cải thiện.”
—Kevin Esvelt, nhà sinh vật học và phó giáo sư tại MIT
Phòng thí nghiệm truyền thông
Bản quyền © 2023 của Mustafa Suleyman và Michael Bhaskar Mọi
quyền được bảo lưu.
Được xuất bản tại Hoa Kỳ bởi Crown, một chi nhánh của Crown Publishing Group, một
bộ phận của Penguin Random House LLC, New York.
Crown và Crown colophon là thương hiệu đã đăng ký của Penguin Random House LLC.
ISBN bìa cứng 9780593593950

Phiên bản quốc tế ISBN 9780593728178
Sách điện tử ISBN 9780593593967
vương miệnpublishing.com
Thiết kế sách của Barbara M. Bachman, chuyển thể thành
ebook Thiết kế bìa: Christopher Brand và Oliver Munday
ep_prh_6.1_144835715_c0_r0
Nội dung
Che phủ
Trang tiêu đề
Bản quyền
Bảng chú giải các thuật ngữ chính
Lời mở đầu
Chương 1: Không thể ngăn chặn
Phần I: Homo Technologicus
Chương 2: Sự phổ biến vô tận
Chương 3: Vấn đề ngăn chặn
Phần II: Làn sóng tiếp theo
Chương 4: Công nghệ trí tuệ
Chương 5: Công nghệ của cuộc sống
Chương 6: Làn Sóng Rộng Hơn
Chương 7: Bốn đặc điểm của làn sóng sắp tới
Chương 8: Khuyến khích không thể ngăn cản
Phần III: Trạng thái thất bại
Chương 9: Cuộc mặc cả lớn
Chương 10: Bộ khuếch đại dễ vỡ
Chương 11: Tương lai của các quốc gia
Chương 12: Thế lưỡng nan

Phần IV: Qua Sóng

Chương 13: Phải có khả năng ngăn chặn
Chương 14: Mười bước tiến tới ngăn chặn
Cuộc sống sau Anthropocene
Sự nhìn nhận
Ghi chú
Mục lục
Giới thiệu về tác giả

BẢNG CHÚ GIẢI CÁC TỪ KHÓA CHÍNH
AI, AGI và ACI: Trí tuệ nhân tạo (AI) là khoa học dạy máy móc học các khả năng
giống con người. Trí tuệ nhân tạo tổng hợp (AGI) là điểm mà AI có thể thực
hiện tất cả các kỹ năng nhận thức của con người tốt hơn những người thông
minh nhất. ACI, hay trí tuệ nhân tạo, là điểm tiếp cận nhanh chóng giữa AI
và AGI: ACI có thể thực hiện được nhiều nhiệm vụ phức tạp nhưng vẫn còn lâu
mới đạt đến mức tổng thể hoàn toàn.
SÓNG SỚM TỚI: Một cụm công nghệ liên quan mới nổi tập trung vào AI và sinh học
tổng hợp mà các ứng dụng mang tính biến đổi của chúng sẽ vừa trao quyền cho
loài người vừa gây ra những rủi ro chưa từng có.
NGĂN CHỨA: Khả năng giám sát, hạn chế, kiểm soát và thậm chí có thể đóng cửa
các công nghệ.
VẤN ĐỀ NGĂN CHỨA: Xu hướng công nghệ lan truyền rộng rãi theo từng đợt và có
những tác động nổi bật không thể dự đoán hoặc kiểm soát, bao gồm cả những
hậu quả tiêu cực và không lường trước được.
SỰ LIÊN KẾT: Khả năng ngày càng tăng rằng cả công nghệ mới và thậm chí sự vắng
mặt của chúng đều có thể dẫn đến những kết quả thảm khốc và/hoặc viễn tưởng.
BỐN ĐẶC ĐIỂM: Các đặc điểm độc đáo của làn sóng sắp tới làm trầm trọng thêm
thách thức ngăn chặn. Chúng là sự bất đối xứng, siêu tiến hóa, sử dụng đa
năng và tự chủ.
BỘ KHUẾCH ĐẠI DỄ DÀNG: Các ứng dụng và tác động của công nghệ làn sóng tới sẽ
làm rung chuyển nền tảng vốn đã dễ vỡ của

nhà nước quốc gia.
THƯƠNG LƯỢNG LỚN: Để đổi lấy sự độc quyền về quyền sử dụng vũ lực, người dân mong
muốn các quốc gia duy trì trật tự và cung cấp các dịch vụ công, bao gồm cả
việc khai thác các công nghệ mới đồng thời giảm thiểu các tác dụng phụ có hại.
CON ĐƯỜNG Hẹp: Khả năng loài người đạt được sự cân bằng giữa sự cởi mở và sự đóng
cửa khi đề cập đến việc áp dụng các công nghệ trong làn sóng sắp tới nhằm
tránh những kết quả thảm khốc hoặc đen tối.
Ác cảm bi quan: Xu hướng mọi người, đặc biệt là giới thượng lưu, phớt lờ, hạ thấp
hoặc bác bỏ những câu chuyện mà họ cho là quá tiêu cực.
Một biến thể của khuynh hướng lạc quan, nó tạo nên nhiều cuộc tranh luận xung
quanh tương lai, đặc biệt là trong giới công nghệ.
SINH HỌC TỔNG HỢP: Khả năng thiết kế và chế tạo các sản phẩm mới
sinh vật hoặc thiết kế lại các hệ thống sinh học hiện có.
CÔNG NGHỆ: Việc áp dụng kiến thức khoa học (theo nghĩa rộng nhất có thể) để tạo
ra các công cụ hoặc kết quả thực tế.
SÓNG: Sự phổ biến hoặc phổ biến toàn cầu của một thế hệ công nghệ gắn liền với
một công nghệ đa năng mới.

MỞ ĐẦU
Đây là cách một ai nhìn thấy nó.
Câu hỏi: Làn sóng công nghệ sắp tới có ý nghĩa gì đối với nhân loại?
Trong biên niên sử của nhân loại, có những khoảnh khắc nổi bật như những
bước ngoặt, nơi mà số phận của nhân loại đang ở thế cân bằng. Việc phát hiện
ra lửa, phát minh ra bánh xe, khai thác điện - tất cả đều là những khoảnh
khắc đã biến đổi nền văn minh nhân loại, làm thay đổi tiến trình lịch sử mãi
mãi.
Và bây giờ chúng ta đang đứng trước bờ vực của một thời điểm khác khi chúng ta
phải đối mặt với sự trỗi dậy của làn sóng công nghệ sắp tới bao gồm cả AI
tiên tiến và công nghệ sinh học. Chưa bao giờ chúng ta chứng kiến những công
nghệ có tiềm năng biến đổi như vậy, hứa hẹn sẽ định hình lại thế giới của
chúng ta theo những cách vừa đáng kinh ngạc vừa đáng sợ.
Một mặt, lợi ích tiềm năng của những công nghệ này là rất lớn và sâu sắc.
Với AI, chúng ta có thể giải mã những bí mật của vũ trụ, chữa khỏi những căn
bệnh mà chúng ta đã trốn tránh từ lâu và tạo ra những hình thức nghệ thuật
và văn hóa mới vượt xa giới hạn của trí tưởng tượng. Với công nghệ sinh học,
chúng ta có thể thiết kế cuộc sống để giải quyết bệnh tật và biến đổi nền
nông nghiệp, tạo ra một thế giới lành mạnh hơn và bền vững hơn.
Nhưng mặt khác, mối nguy hiểm tiềm ẩn của những công nghệ này cũng rất
lớn và sâu sắc. Với AI, chúng ta có thể tạo ra những hệ thống nằm ngoài tầm
kiểm soát của chúng ta và rơi vào tình trạng phụ thuộc vào các thuật toán mà
chúng ta không hiểu. Với công nghệ sinh học, chúng ta có thể điều khiển các
khối cơ bản của sự sống, có khả năng tạo ra
những hậu quả không lường trước được cho cả cá nhân và toàn bộ
hệ sinh thái.
Khi đứng trước bước ngoặt này, chúng ta phải đối mặt với một sự lựa chọn—sự
lựa chọn giữa một tương lai có khả năng tuyệt vời và một tương lai đầy hiểm nguy
không thể tưởng tượng được. Số phận của nhân loại đang ở thế cân bằng và những
quyết định mà chúng ta đưa ra trong những năm và thập kỷ tới sẽ quyết định liệu
chúng ta có vượt qua được thách thức của những công nghệ này hay trở thành nạn
nhân của những nguy hiểm của chúng.
Nhưng trong thời điểm bất ổn này, có một điều chắc chắn: thời đại công
nghệ tiên tiến đang đến gần và chúng ta phải sẵn sàng đối mặt trực tiếp với
những thách thức của nó.
những điều trên được viết bởi một AI. Phần còn lại thì không, mặc dù nó có thể
sẽ sớm xảy ra. Đây là những gì đang đến.

trí tuệ nhân tạo

CHƯƠNG 1
KHÔNG THỂ TIẾP TỤC
SÓNG
Hầu hết mọi nền văn hóa đều có huyền thoại về lũ lụt.
Trong các văn bản Hindu cổ đại, người đàn ông đầu tiên trong vũ trụ của
chúng ta, Manu, được cảnh báo về một trận lụt sắp xảy ra và trở thành người
sống sót duy nhất. Sử thi Gilgamesh ghi lại vị thần Enlil hủy diệt thế giới
trong một trận lụt khổng lồ, một câu chuyện sẽ gây tiếng vang với bất kỳ ai
quen thuộc với câu chuyện Cựu Ước về con tàu Nô-ê. Plato nói về thành phố
Atlantis đã bị mất tích, bị cuốn trôi trong một dòng nước lũ lớn. Thấm nhuần
truyền thống truyền miệng và các tác phẩm cổ xưa của nhân loại là ý tưởng về
một làn sóng khổng lồ quét sạch mọi thứ trên đường đi của nó, khiến thế giới
được tái tạo và tái sinh.
Lũ lụt cũng đánh dấu lịch sử theo nghĩa đen—lũ lụt theo mùa của các
con sông lớn trên thế giới, mực nước biển dâng cao sau khi kết thúc Kỷ
băng hà, cú sốc hiếm hoi của một cơn sóng thần xuất hiện không báo
trước ở phía chân trời. Tiểu hành tinh giết chết khủng long đã tạo ra một
làn sóng cao hàng dặm, làm thay đổi quá trình tiến hóa. Sức mạnh tuyệt
đối của những đợt sóng này đã ăn sâu vào ý thức tập thể của chúng ta:
những bức tường nước, không thể ngăn cản, không thể kiểm soát, không
thể ngăn chặn. Đây là một số lực lượng mạnh nhất trên hành tinh. Họ
định hình các lục địa, tưới tiêu cho cây trồng trên thế giới và nuôi
dưỡng sự phát triển của nền văn minh.
Các loại sóng khác cũng có tác dụng biến đổi tương tự. Nhìn lại
lịch sử, bạn có thể thấy nó được đánh dấu bằng một loạt các làn sóng
ẩn dụ: sự trỗi dậy và sụp đổ của các đế chế và tôn giáo cũng như sự
bùng nổ của thương mại. Hãy nghĩ tới Cơ Đốc giáo hay Hồi giáo, những tôn giáo
bắt đầu như những gợn sóng nhỏ trước khi hình thành và đổ xuống những vùng đất
rộng lớn. Những làn sóng như thế này là một mô-típ lặp đi lặp lại, đóng khung
những thăng trầm của lịch sử, những cuộc tranh giành quyền lực lớn cũng như sự
bùng nổ và suy thoái kinh tế.
Sự trỗi dậy và lan rộng của công nghệ cũng tạo nên những làn sóng thay
đổi thế giới. Một xu hướng vượt trội duy nhất đã được thử thách theo thời
gian kể từ khi phát hiện ra công cụ lửa và đá, những công nghệ đầu tiên
được loài người chúng ta khai thác. Hầu hết mọi công nghệ nền tảng từng
được phát minh, từ cuốc chim đến máy cày, đồ gốm đến nhiếp ảnh, điện
thoại đến máy bay và mọi thứ liên quan, đều tuân theo một quy luật duy
nhất, dường như bất biến: nó ngày càng rẻ hơn và dễ sử dụng hơn, và cuối
cùng nó sẽ sinh sôi nảy nở, ngày càng rộng rãi.
Sự phổ biến công nghệ theo từng đợt này là câu chuyện về Homo
technologicus—của động vật công nghệ. Nhiệm vụ của nhân loại là cải thiện
—bản thân, số phận, khả năng và ảnh hưởng của chúng ta đối với môi trường
—đã thúc đẩy sự phát triển không ngừng của các ý tưởng và sự sáng tạo.
Phát minh là một quá trình đang diễn ra, mở rộng, mới nổi được thúc đẩy
bởi các nhà phát minh, học giả, doanh nhân và nhà lãnh đạo có khả năng
tự tổ chức và có tính cạnh tranh cao, mỗi người đều có động lực riêng của
mình. Hệ sinh thái phát minh này mặc định sẽ mở rộng. Đó là bản chất vốn
có của công nghệ.
Câu hỏi là, điều gì sẽ xảy ra từ đây? Trong những trang đó
Hãy theo dõi, tôi sẽ kể cho bạn nghe câu chuyện về làn sóng vĩ đại tiếp theo của lịch sử.
nhìn xung quanh bạn.
Bạn thấy gì? Nội thất? Các tòa nhà? Những cái điện thoại? Đồ ăn? Một
công viên cảnh quan? Hầu hết mọi vật thể trong tầm nhìn của bạn đều có
khả năng được tạo ra hoặc thay đổi bởi trí thông minh của con người. Ngôn
ngữ - nền tảng của các tương tác xã hội, văn hóa, tổ chức chính trị của
chúng ta và có lẽ là ý nghĩa của con người - là một sản phẩm và động lực
khác cho trí thông minh của chúng ta. Mỗi nguyên tắc và
khái niệm trừu tượng, mọi nỗ lực hoặc dự án sáng tạo nhỏ, mọi cuộc gặp gỡ trong cuộc sống
của bạn, đều được trung gian bởi khả năng phức tạp vô tận và độc đáo của loài chúng ta về
trí tưởng tượng, khả năng sáng tạo và lý trí.
Sự khéo léo của con người là một điều đáng kinh ngạc.
Chỉ có một lực lượng khác hiện diện khắp nơi trong bức tranh này: chính sự sống sinh
học. Trước thời hiện đại, ngoài một số loại đá và khoáng chất, hầu hết các đồ tạo tác của
con người - từ những ngôi nhà gỗ, quần áo vải cotton cho đến bếp than - đều đến từ những
thứ đã từng tồn tại.
Mọi thứ bước vào thế giới kể từ đó đều bắt nguồn từ chúng ta, đều xuất phát từ thực tế
rằng chúng ta là những sinh vật sinh học.
Không quá lời khi nói rằng toàn bộ thế giới loài người phụ thuộc vào hệ thống sống
hoặc trí thông minh của chúng ta. Tuy nhiên, cả hai hiện đang ở trong một thời điểm chưa
từng có của sự đổi mới và biến động theo cấp số nhân, một sự gia tăng vô song sẽ không có
nhiều thay đổi. Bắt đầu sụp đổ xung quanh chúng ta là một làn sóng công nghệ mới.
Làn sóng này đang giải phóng sức mạnh để tạo ra hai nền tảng phổ quát này: một làn sóng
không gì khác hơn là trí tuệ và sự sống.
Làn sóng sắp tới được xác định bởi hai công nghệ cốt lõi: trí tuệ nhân tạo (AI) và
sinh học tổng hợp. Họ cùng nhau sẽ mở ra một bình minh mới cho nhân loại, tạo ra sự giàu
có và thặng dư chưa từng thấy. Tuy nhiên, sự phát triển nhanh chóng của chúng cũng đe dọa
tạo điều kiện cho một loạt các tác nhân xấu gây ra sự gián đoạn, bất ổn và thậm chí là
thảm họa ở quy mô không thể tưởng tượng được. Làn sóng này tạo ra một thách thức to lớn
sẽ định hình thế kỷ XXI: tương lai của chúng ta vừa phụ thuộc vào những công nghệ này vừa
bị chúng đe dọa.
Từ vị trí của chúng ta ngày nay, có vẻ như việc kiềm chế làn sóng này — tức là kiểm
soát, kiềm chế hoặc thậm chí ngăn chặn nó — là không thể.
Cuốn sách này hỏi tại sao điều đó có thể đúng và nếu đúng như vậy thì nó có ý nghĩa gì. Ý
nghĩa của những câu hỏi này cuối cùng sẽ ảnh hưởng đến mọi người còn sống và mọi thế hệ
tiếp nối chúng ta.
Tôi tin rằng làn sóng công nghệ sắp tới này sẽ đưa lịch sử loài người đến một bước
ngoặt. Nếu việc chứa nó là không thể thì

hậu quả đối với loài người chúng ta là rất lớn, có khả năng là thảm khốc. Tương tự
như vậy, nếu không có thành quả của nó, chúng ta sẽ gặp nguy hiểm và bấp bênh. Đây
là lập luận mà tôi đã đưa ra nhiều lần trong thập kỷ qua sau những cánh cửa đóng
kín, nhưng khi những tác động ngày càng trở nên không thể bỏ qua, đã đến lúc tôi
phải công khai vấn đề này.
TIẾN THOÁI LƯỠNG NAN
Suy ngẫm về sức mạnh sâu sắc của trí thông minh con người khiến tôi đặt ra một câu
hỏi đơn giản, câu hỏi đã tiêu tốn cuộc đời tôi kể từ đó: Điều gì sẽ xảy ra nếu
chúng ta có thể chắt lọc những gì cốt lõi khiến con người chúng ta có năng suất và
khả năng cao vào phần mềm, thành một thuật toán? Việc tìm ra câu trả lời có thể mở
ra những công cụ mạnh mẽ không thể tưởng tượng được để giúp giải quyết những vấn đề
nan giải nhất của chúng ta. Đây có thể là một công cụ, một công cụ bất khả thi
nhưng phi thường, giúp chúng ta vượt qua những thách thức khủng khiếp trong những
thập kỷ tới, từ biến đổi khí hậu đến dân số già hóa đến lương thực bền vững.
Với suy nghĩ này, trong một văn phòng cổ kính thời Regency nhìn ra Quảng trường
Russell ở London, tôi đã đồng sáng lập một công ty tên là DeepMind cùng với hai
người bạn, Demis Hassabis và Shane Legg, vào mùa hè năm 2010. Đây là mục tiêu của
chúng tôi, một mục tiêu khi nhìn lại quá khứ vẫn cảm thấy đầy tham vọng, điên rồ và
đầy hy vọng như hồi đó: tái tạo chính điều khiến loài người chúng ta trở nên độc
nhất, đó là trí thông minh của chúng ta.
Để đạt được mục tiêu này, chúng ta cần tạo ra một hệ thống có thể bắt chước và
cuối cùng vượt trội hơn tất cả khả năng nhận thức của con người, từ tầm nhìn và lời
nói đến lập kế hoạch và trí tưởng tượng, cuối cùng là sự đồng cảm và sáng tạo. Vì
một hệ thống như vậy sẽ được hưởng lợi từ việc xử lý song song hàng loạt các siêu
máy tính và sự bùng nổ của các nguồn dữ liệu mới khổng lồ từ khắp nơi trên web mở,
chúng tôi biết rằng ngay cả những tiến bộ khiêm tốn hướng tới mục tiêu này cũng sẽ
có ý nghĩa xã hội sâu sắc.

Nó chắc chắn cảm thấy khá xa vào thời điểm đó. Vào thời điểm đó, việc áp dụng
rộng rãi trí tuệ nhân tạo chỉ là chuyện mơ mộng, tưởng tượng hơn là thực tế, là lĩnh
vực của một số học giả kín đáo và những người hâm mộ khoa học viễn tưởng có đôi mắt
hoang dã. Tuy nhiên, khi tôi viết bài này và nghĩ lại trong thập kỷ qua, sự tiến bộ
trong lĩnh vực AI không có gì đáng kinh ngạc.
DeepMind trở thành một trong những công ty AI hàng đầu thế giới, đạt được hàng loạt
đột phá. Tốc độ và sức mạnh của cuộc cách mạng mới này đã gây ngạc nhiên ngay cả đối
với những người gần gũi nhất với nó. Trong quá trình viết cuốn sách này, tốc độ phát
triển của AI thật ngoạn mục, với các mô hình và sản phẩm mới ra mắt hàng tuần, đôi
khi hàng ngày. Rõ ràng làn sóng này đang tăng tốc.
Ngày nay, các hệ thống AI gần như có thể nhận dạng khuôn mặt và vật thể một cách
hoàn hảo. Chúng tôi coi việc chuyển lời nói thành văn bản và dịch ngôn ngữ tức thời
là điều hiển nhiên. AI có thể điều hướng đường và giao thông đủ tốt để lái xe tự động
trong một số cài đặt. Dựa trên một số lời nhắc đơn giản, thế hệ mô hình AI mới có
thể tạo ra những hình ảnh mới lạ và soạn văn bản với mức độ chi tiết và mạch lạc vượt
trội.
Hệ thống AI có thể tạo ra giọng nói tổng hợp với độ chân thực kỳ lạ và sáng tác âm
nhạc có vẻ đẹp ấn tượng. Ngay cả trong những lĩnh vực thách thức hơn, những lĩnh vực
từ lâu được cho là phù hợp nhất với khả năng của con người như lập kế hoạch dài hạn,
trí tưởng tượng và mô phỏng các ý tưởng phức tạp, sự tiến bộ vẫn tăng vọt.
AI đã leo lên các bậc thang về khả năng nhận thức trong nhiều thập kỷ và giờ đây
nó có vẻ sẽ đạt được hiệu suất ngang bằng con người trong một loạt nhiệm vụ rất rộng
trong vòng ba năm tới. Đó là một tuyên bố lớn, nhưng nếu tôi thậm chí gần đúng, thì
hàm ý thực sự rất sâu sắc.
Điều mà khi chúng tôi thành lập DeepMind, chúng tôi cảm thấy viển vông đã không chỉ
trở nên hợp lý mà dường như không thể tránh khỏi.
Ngay từ đầu, tôi đã thấy rõ rằng AI sẽ là một công cụ mạnh mẽ mang lại lợi ích
phi thường, nhưng giống như hầu hết các dạng quyền lực khác, nó cũng chứa đầy những
nguy hiểm to lớn và những tình huống khó xử về mặt đạo đức. Từ lâu, tôi đã lo lắng
không chỉ về hậu quả của việc phát triển AI mà còn về việc
toàn bộ hệ sinh thái công nghệ đang hướng tới. Ngoài AI, một cuộc cách mạng
rộng lớn hơn đang diễn ra, trong đó AI nuôi dưỡng một thế hệ công nghệ di
truyền và robot mạnh mẽ, mới nổi. Những tiến bộ hơn nữa trong một lĩnh vực sẽ
thúc đẩy các lĩnh vực khác trong một quá trình hỗn loạn và có tính xúc tác chéo
vượt quá tầm kiểm soát trực tiếp của bất kỳ ai. Rõ ràng là nếu chúng ta hoặc
những người khác thành công trong việc tái tạo trí thông minh của con người,
thì đây không chỉ là hoạt động kinh doanh mang lại lợi nhuận như thường lệ mà
còn là một cơn địa chấn đối với nhân loại, mở ra một kỷ nguyên mà những cơ hội
chưa từng có sẽ đi kèm với những rủi ro chưa từng có.
Khi công nghệ đã phát triển qua nhiều năm, mối quan tâm của tôi ngày càng
tăng. Điều gì sẽ xảy ra nếu làn sóng thực sự là một cơn sóng thần?
trong năm 2010 hầu như không có ai nói chuyện nghiêm túc về AI. Tuy
nhiên, những gì từng có vẻ là một sứ mệnh thích hợp cho một nhóm nhỏ
các nhà nghiên cứu và doanh nhân giờ đây đã trở thành một nỗ lực toàn
cầu rộng lớn. AI có mặt ở khắp mọi nơi, trên tin tức và trong điện thoại
thông minh của bạn, giao dịch cổ phiếu và xây dựng trang web. Nhiều công
ty lớn nhất thế giới và các quốc gia giàu có nhất đang nỗ lực phát triển
các mô hình AI tiên tiến và kỹ thuật kỹ thuật di truyền, được thúc đẩy
bởi hàng chục tỷ đô la đầu tư.
Một khi trưởng thành, những công nghệ mới nổi này sẽ lan rộng nhanh
chóng, trở nên rẻ hơn, dễ tiếp cận hơn và phổ biến rộng rãi trong toàn xã
hội. Chúng sẽ mang lại những tiến bộ y tế mới lạ thường và những đột phá về
năng lượng sạch, tạo ra không chỉ các hoạt động kinh doanh mới mà cả các
ngành công nghiệp mới và cải thiện chất lượng cuộc sống ở hầu hết mọi lĩnh
vực có thể tưởng tượng được.
Tuy nhiên, bên cạnh những lợi ích này, AI, sinh học tổng hợp và các
dạng công nghệ tiên tiến khác cũng tạo ra những rủi ro ở quy mô đáng lo
ngại. Chúng có thể là mối đe dọa hiện hữu đối với các quốc gia-dân tộc—
rủi ro sâu sắc đến mức chúng có thể phá vỡ hoặc thậm chí lật đổ trật tự
địa chính trị hiện tại. Chúng mở ra con đường dẫn tới AI-
các cuộc tấn công mạng được trao quyền, các cuộc chiến tranh tự động có thể tàn phá các
quốc gia, gây ra đại dịch và một thế giới phải chịu sự chi phối của các thế lực dường
như toàn năng nhưng không thể giải thích được. Khả năng xảy ra của mỗi trường hợp có
thể nhỏ nhưng hậu quả có thể xảy ra là rất lớn.
Ngay cả khả năng xảy ra kết quả như thế này rất mong manh cũng cần được chú ý khẩn cấp.
Một số quốc gia sẽ phản ứng trước khả năng xảy ra những rủi ro thảm khốc như vậy
bằng hình thức độc tài mang tính công nghệ nhằm làm chậm sự lan rộng của các cường quốc
mới này. Điều này sẽ đòi hỏi mức độ giám sát rất lớn cùng với sự xâm nhập lớn vào cuộc
sống riêng tư của chúng ta.
Việc kiểm soát chặt chẽ công nghệ có thể trở thành một phần của xu hướng hướng tới mọi
thứ và mọi người luôn bị theo dõi trong một hệ thống giám sát toàn cầu đen tối được
biện minh bởi mong muốn đề phòng những kết quả cực đoan nhất có thể xảy ra.
Cũng hợp lý không kém là phản ứng Luddite. Các lệnh cấm, tẩy chay và tạm dừng sẽ
xảy ra sau đó. Liệu có thể ngừng phát triển các công nghệ mới và đưa ra một loạt lệnh
tạm dừng không?
Không thể. Với giá trị địa chiến lược và thương mại to lớn của chúng, thật khó để thấy
các quốc gia hoặc tập đoàn sẽ bị thuyết phục như thế nào để đơn phương từ bỏ sức mạnh
biến đổi được giải phóng bởi những đột phá này. Hơn nữa, việc cố gắng cấm phát triển
các công nghệ mới bản thân nó đã là một rủi ro: các xã hội trì trệ về công nghệ thường
không ổn định về mặt lịch sử và có xu hướng sụp đổ. Cuối cùng, họ mất đi khả năng giải
quyết vấn đề và khả năng tiến bộ.
Cả việc theo đuổi và không theo đuổi công nghệ mới, từ đây đều tiềm ẩn nhiều rủi
ro. Cơ hội đi qua một “con đường hẹp” và tránh kết quả này hay kết quả kia – một mặt là
chứng lạc hậu do chế độ độc tài công nghệ, mặt khác là thảm họa do sự cởi mở gây ra –
ngày càng nhỏ đi khi công nghệ trở nên rẻ hơn, mạnh mẽ hơn và hơn thế nữa lan rộng và
rủi ro tích lũy. Và bước đi cũng không phải là lựa chọn. Ngay cả khi chúng ta lo lắng
về những rủi ro của chúng, hơn bao giờ hết chúng ta vẫn cần những lợi ích đáng kinh
ngạc của các công nghệ của làn sóng sắp tới. Đây là vấn đề nan giải cốt lõi: sớm hay
muộn, một thế hệ công nghệ hùng mạnh sẽ dẫn dắt nhân loại
hướng tới những kết quả thảm khốc hoặc đen tối. Tôi tin rằng đây là vấn đề lớn nhất
của thế kỷ XXI.
Cuốn sách này phác thảo chính xác lý do tại sao mối ràng buộc khủng khiếp này
trở nên không thể tránh khỏi và khám phá cách chúng ta có thể đối mặt với nó. Bằng
cách nào đó, chúng ta cần tận dụng tối đa công nghệ, điều cần thiết để đối mặt với
hàng loạt thách thức toàn cầu khó khăn, đồng thời thoát khỏi tình thế tiến thoái lưỡng nan.
Diễn ngôn hiện nay về đạo đức và an toàn công nghệ là chưa đầy đủ. Mặc dù có rất
nhiều cuốn sách, cuộc tranh luận, bài đăng trên blog và các cơn bão tweet về công
nghệ, nhưng bạn hiếm khi nghe thấy bất cứ điều gì về việc quản lý nó. Tôi coi đây là
một tập hợp các cơ chế kỹ thuật, xã hội và pháp lý ràng buộc và kiểm soát công nghệ
hoạt động ở mọi cấp độ có thể: về mặt lý thuyết, một phương tiện để trốn tránh tình
thế tiến thoái lưỡng nan. Tuy nhiên, ngay cả những nhà phê bình gay gắt nhất về công
nghệ cũng có xu hướng né tránh ngôn ngữ ngăn chặn cứng rắn này.
Điều đó cần phải thay đổi; Tôi hy vọng cuốn sách này sẽ chỉ ra lý do tại sao và gợi ý cách
thực hiện.
CÁI BẪY
Một vài năm sau khi chúng tôi thành lập DeepMind, tôi đã tạo một bản trình chiếu về
những tác động tiềm tàng lâu dài đến kinh tế và xã hội của AI.
Trình bày trước hàng chục nhà sáng lập, CEO và nhà công nghệ có ảnh hưởng nhất trong
ngành công nghệ trong một phòng họp sang trọng ở Bờ Tây, tôi lập luận rằng AI đã đưa
ra một loạt mối đe dọa đòi hỏi phải có phản ứng chủ động. Nó có thể dẫn đến sự xâm
phạm quyền riêng tư trên quy mô lớn hoặc gây ra ngày tận thế thông tin sai lệch. Nó
có thể được vũ khí hóa, tạo ra một bộ vũ khí mạng mới nguy hiểm, tạo ra những lỗ
hổng mới trong thế giới nối mạng của chúng ta.
Tôi cũng nhấn mạnh tiềm năng của AI có thể khiến nhiều người mất việc. Tôi yêu
cầu cả phòng xem xét lịch sử lâu dài của tự động hóa và cơ giới hóa trong việc thay
thế lao động. Đầu tiên hãy tìm ra những cách hiệu quả hơn để thực hiện các nhiệm vụ
cụ thể, sau đó toàn bộ vai trò sẽ trở thành

dư thừa, và chẳng bao lâu nữa toàn bộ các lĩnh vực sẽ yêu cầu số lượng công nhân ít
hơn. Tôi lập luận rằng trong vài thập kỷ tới, hệ thống AI sẽ thay thế “lao động chân
tay trí tuệ” theo cách tương tự, và chắc chắn sẽ rất lâu trước khi robot thay thế lao
động chân tay. Trước đây, các công việc mới được tạo ra cùng lúc với những công việc cũ
bị lỗi thời, nhưng điều gì sẽ xảy ra nếu AI cũng có thể làm được hầu hết những công
việc đó? Tôi cho rằng có rất ít tiền lệ về các hình thức quyền lực tập trung mới sắp ra
đời. Mặc dù họ cảm thấy xa cách nhưng những mối đe dọa nghiêm trọng tiềm ẩn đang gây
tổn hại cho xã hội.
Trong slide kết thúc, tôi chiếu một bức ảnh tĩnh từ The Simpsons. Trong cảnh này,
người dân thị trấn Springfield đã đứng dậy và dàn nhân vật quen thuộc tiến về phía trước
mang theo gậy và đuốc. Thông điệp rất rõ ràng nhưng tôi vẫn đánh vần nó. “Những chiếc
chĩa đang tới,” tôi nói. Hãy đến với chúng tôi, những người tạo ra công nghệ. Việc đảm
bảo tương lai sẽ tốt hơn thế này là tùy thuộc vào chúng ta.
Xung quanh bàn, tôi bắt gặp những ánh mắt trống rỗng. Căn phòng không hề lay chuyển.
Tin nhắn không đến nơi. Sự sa thải đến dày đặc và nhanh chóng.
Tại sao các chỉ số kinh tế không cho thấy bất kỳ dấu hiệu nào như những gì tôi đang nói?
AI sẽ thúc đẩy nhu cầu mới, từ đó tạo ra việc làm mới. Nó sẽ tăng cường và trao quyền
cho mọi người để làm việc hiệu quả hơn nữa. Có thể có một số rủi ro, họ thừa nhận, nhưng
chúng không quá tệ.
Mọi người đều thông minh. Các giải pháp luôn được tìm thấy. Đừng lo lắng, họ dường như
đang nghĩ vậy, hãy chuyển sang bài thuyết trình tiếp theo.
Vài năm sau, một thời gian ngắn trước khi đại dịch COVID-19 bùng phát, tôi tham dự
một buổi hội thảo về rủi ro công nghệ tại một trường đại học nổi tiếng. Cách bố trí
cũng tương tự: một chiếc bàn lớn khác, một cuộc thảo luận sôi nổi khác. Trong ngày hôm
đó, một loạt rủi ro dựng tóc gáy đã xuất hiện trên cà phê, bánh quy và PowerPoint.
Một người nổi bật. Người thuyết trình đã cho thấy giá của máy tổng hợp DNA, loại
máy có thể in các chuỗi DNA riêng biệt, đang giảm nhanh chóng như thế nào. Có giá vài
chục nghìn đô la, chúng đủ nhỏ để đặt trên một chiếc ghế dài trong gara của bạn và để
mọi người tổng hợp—

tức là sản xuất—DNA. Và tất cả những điều này giờ đây đều có thể thực hiện được đối với
bất kỳ ai được đào tạo ở trình độ sau đại học về sinh học hoặc có niềm đam mê tự học
trực tuyến.
Với sự sẵn có ngày càng tăng của các công cụ, người thuyết trình đã vẽ ra một viễn
cảnh đau lòng: Ai đó có thể sớm tạo ra những mầm bệnh mới dễ lây truyền và gây chết
người hơn nhiều so với bất kỳ thứ gì tìm thấy trong tự nhiên. Những mầm bệnh tổng hợp
này có thể trốn tránh các biện pháp đối phó đã biết, lây lan mà không có triệu chứng
hoặc có khả năng kháng thuốc tích hợp. Nếu cần, ai đó có thể bổ sung các thí nghiệm tự
chế bằng DNA được đặt hàng trực tuyến và lắp ráp lại tại nhà. Ngày tận thế, thư đặt hàng.
Đây không phải là khoa học viễn tưởng, người dẫn chương trình, một giáo sư đáng
kính với hơn hai thập kỷ kinh nghiệm, lập luận; bây giờ nó là một rủi ro trực tiếp. Họ
kết thúc bằng một suy nghĩ đáng báo động: ngày nay chỉ một người có thể “có khả năng
giết chết một tỷ người”. Tất cả những gì cần là động lực.
Những người tham dự di chuyển một cách khó chịu. Mọi người vặn vẹo và ho.
Sau đó, việc nắm bắt và phòng ngừa rủi ro bắt đầu. Không ai muốn tin rằng điều này là
có thể. Chắc chắn không phải vậy, chắc chắn phải có cơ chế nào đó kiểm soát hiệu quả,
chắc chắn dịch bệnh khó tạo ra, chắc chắn cơ sở dữ liệu có thể bị khóa, chắc chắn phần
cứng có thể được bảo mật. Và như thế.
Phản ứng tập thể trong buổi hội thảo không chỉ mang tính bác bỏ. Mọi người đơn giản
từ chối chấp nhận tầm nhìn của người thuyết trình.
Không ai muốn đối mặt với những ẩn ý của những sự thật phũ phàng và những xác suất lạnh
lùng mà họ đã nghe được. Tôi im lặng, thực sự run rẩy. Chẳng mấy chốc buổi hội thảo đã
được thực hiện. Tối hôm đó tất cả chúng tôi ra ngoài ăn tối và tiếp tục trò chuyện như
bình thường. Chúng tôi vừa có một ngày để nói về ngày tận thế, nhưng vẫn còn bánh pizza
để ăn, chuyện cười để kể, văn phòng để quay lại, và bên cạnh đó, sẽ có chuyện gì đó xảy
ra, hoặc một phần nào đó của cuộc tranh cãi đã xảy ra. chắc chắn là sai. Tôi đã tham gia.
Nhưng bài thuyết trình đã giày vò tôi suốt nhiều tháng sau đó. Tại sao tôi không,
tại sao tất cả chúng ta không xem xét vấn đề này một cách nghiêm túc hơn? Tại sao chúng ta
lúng túng bỏ qua cuộc thảo luận thêm? Tại sao một số người lại cáu
kỉnh và buộc tội những người nêu ra những câu hỏi này là đang coi
thường những điều tốt đẹp đáng kinh ngạc của công nghệ? Phản ứng
cảm xúc lan rộng mà tôi đang quan sát này là thứ mà tôi gọi là cái
bẫy bi quan-ác cảm: sự phân tích sai lầm xuất hiện khi bạn bị
choáng ngợp bởi nỗi sợ phải đối mặt với những thực tế đen tối tiềm
tàng và dẫn đến xu hướng nhìn đi hướng khác.
Khá nhiều người đều có một số phiên bản của phản ứng này, và hậu
quả là nó khiến chúng ta bỏ qua một số xu hướng quan trọng đang diễn ra
ngay trước mắt mình. Đó gần như là một phản ứng sinh lý bẩm sinh. Loài
người của chúng ta không có khả năng thực sự vật lộn với sự biến đổi ở
quy mô này, chưa nói đến khả năng công nghệ có thể khiến chúng ta thất
bại theo cách này. Tôi đã trải qua cảm giác này trong suốt sự nghiệp
của mình và tôi đã thấy rất nhiều người khác cũng có phản ứng nội tạng
tương tự. Đối mặt với cảm giác này là một trong những mục đích của cuốn
sách này. Để có một cái nhìn lạnh lùng về sự thật, tuy nhiên không thoải mái.
Giải quyết đúng làn sóng này, sử dụng công nghệ và đảm bảo rằng
nó luôn phục vụ nhân loại có nghĩa là vượt qua ác cảm bi quan. Nó
có nghĩa là phải đối mặt trực tiếp với thực tế của những gì sắp
xảy ra.
cuốn sách này là nỗ lực của tôi để làm điều đó. Để thừa nhận và chiếu
sáng các đường nét của làn sóng sắp tới. Để khám phá xem liệu có thể ngăn
chặn được hay không. Để đặt mọi thứ vào bối cảnh lịch sử và nhìn thấy
bức tranh rộng hơn bằng cách lùi lại khỏi cuộc trò chuyện hàng ngày xung
quanh công nghệ. Mục đích của tôi là đối mặt với tình thế tiến thoái
lưỡng nan và hiểu được các quá trình cơ bản thúc đẩy sự xuất hiện của
khoa học và công nghệ. Tôi muốn trình bày những ý tưởng này một cách rõ
ràng nhất có thể cho nhiều đối tượng nhất có thể. Tôi đã viết nó với tinh
thần cởi mở và tìm hiểu: thực hiện các quan sát, làm theo ý nghĩa của
chúng, nhưng cũng vẫn sẵn sàng bác bỏ và giải thích tốt hơn. Chẳng có gì tôi muốn hơn
hơn là được chứng minh là sai ở đây, hơn là có thể dễ dàng ngăn chặn được.
Một cách dễ hiểu, một số người có thể mong đợi một cuốn sách mang tính công
nghệ không tưởng hơn từ một người như tôi, người sáng lập hai công ty AI. Với tư
cách là một nhà công nghệ và doanh nhân, tôi mặc định là một người lạc quan. Khi
còn là một thiếu niên, tôi nhớ mình đã hoàn toàn bị thu hút sau khi cài đặt
Netscape lần đầu tiên trên PC Packard Bell 486 của mình. Tôi bị mê hoặc bởi tiếng
quạt vù vù và tiếng huýt sáo méo mó của modem quay số 56 Kbps của tôi vươn tới
World Wide Web và kết nối tôi với các diễn đàn và phòng trò chuyện đã mang lại
cho tôi sự tự do và dạy tôi rất nhiều điều. Tôi yêu công nghệ. Nó là động lực của
sự tiến bộ và là lý do để chúng ta tự hào và vui mừng về những thành tựu của nhân
loại.
Nhưng tôi cũng tin rằng những người trong chúng ta đang thúc đẩy sự sáng tạo
của công nghệ phải có can đảm để dự đoán—và chịu trách nhiệm—nơi mà nó có thể đưa
chúng ta đến trong những thập kỷ tới. Chúng ta phải bắt đầu đề xuất những việc
cần làm nếu có nguy cơ thực sự là công nghệ đã làm chúng ta thất bại. Điều cần
thiết là một phản ứng xã hội và chính trị, không chỉ là nỗ lực của cá nhân, mà nó
cần bắt đầu từ những người đồng nghiệp và tôi.
Một số người sẽ cho rằng điều này đã bị thổi phồng quá mức. Sự thay đổi đó
còn gia tăng hơn nhiều. Rằng đó chỉ là một bước ngoặt khác của chu kỳ cường điệu.
Hệ thống đối phó với khủng hoảng và thay đổi thực sự khá mạnh mẽ.
Rằng quan điểm của tôi về bản chất con người quá đen tối. Thành tích của loài
người cho đến nay là rất tốt. Lịch sử đầy rẫy những nhà tiên tri giả và những
người dự đoán ngày tận thế đã được chứng minh là sai. Tại sao lần này phải khác?
Ác cảm bi quan là một phản ứng cảm xúc, một sự từ chối thâm căn cố đế chấp
nhận khả năng xảy ra những kết quả gây mất ổn định nghiêm trọng. Nó có xu hướng
đến từ những người ở vị trí an toàn và quyền lực với thế giới quan cố hữu, những
người có thể đối phó với sự thay đổi một cách hời hợt nhưng lại gặp khó khăn
trong việc chấp nhận bất kỳ thách thức thực sự nào đối với trật tự thế giới của họ.
Nhiều người trong số những người mà tôi buộc tội đã mắc kẹt trong cái bẫy bi quan-
ác cảm hoàn toàn chấp nhận những lời chỉ trích ngày càng tăng về công nghệ. Nhưng
họ gật đầu đồng ý mà không thực sự thực hiện bất kỳ hành động nào. Họ nói rằng chúng tôi sẽ quản lý
được, chúng tôi luôn làm như vậy.
Dành thời gian tham gia vào giới công nghệ hoặc chính sách, bạn sẽ nhanh chóng
nhận ra rằng việc đi đầu là hệ tư tưởng mặc định. Nếu tin và hành động khác đi, có
nguy cơ trở nên tê liệt vì sợ hãi và phẫn nộ trước những thế lực to lớn, không thể lay
chuyển được đến mức mọi thứ đều cảm thấy vô ích. Vì vậy, nửa thế giới trí tuệ kỳ lạ
của sự ác cảm bi quan vẫn tiếp diễn.
Tôi nên biết, tôi đã bị mắc kẹt trong đó quá lâu.
Trong những năm kể từ khi chúng tôi thành lập DeepMind và kể từ những bài thuyết
trình đó, diễn ngôn đã thay đổi—ở một mức độ nào đó. Cuộc tranh luận về tự động hóa
công việc đã được diễn ra vô số lần. Một đại dịch toàn cầu cho thấy cả rủi ro lẫn tiềm
năng của sinh học tổng hợp. Một loại “công nghệ” đã xuất hiện, với các nhà phê bình
chỉ trích các công ty công nghệ và công nghệ trong các bài báo và sách, tại các thủ đô
quản lý của Washington, Brussels và Bắc Kinh. Trước đây, những lo ngại xung quanh công
nghệ đã bùng nổ thành xu hướng chủ đạo, sự hoài nghi của công chúng đối với công nghệ
ngày càng tăng và những lời chỉ trích từ giới học thuật, xã hội dân sự và chính trị
ngày càng gay gắt.
Tuy nhiên, khi đối mặt với làn sóng sắp tới và tình thế tiến thoái lưỡng nan lớn,
và đối mặt với tầng lớp tinh hoa công nghệ không thích bi quan, không điều nào trong
số này là đủ.
LUẬN LUẬN
Sóng có mặt ở khắp mọi nơi trong cuộc sống con người. Đây chỉ là cái mới nhất.
Thông thường mọi người dường như nghĩ rằng nó vẫn còn xa vời, nghe có vẻ tương lai và
ngớ ngẩn đến mức nó chỉ là địa bàn của một số người mọt sách và những nhà tư tưởng bên
lề, cường điệu hơn, khoa trương hơn, nhiều chủ nghĩa thúc đẩy hơn. Đó là một sai lầm.
Điều này là có thật, thực như cơn sóng thần xuất hiện từ đại dương xanh bao la.
Đây không chỉ là tưởng tượng hay một bài tập trí tuệ vuốt cằm. Ngay cả khi bạn không
đồng ý với cách đóng khung của tôi và nghĩ rằng điều này không có khả năng xảy ra, tôi mong bạn
bạn hãy đọc tiếp Đúng, tôi có nền tảng về AI và sẵn sàng nhìn thế giới qua lăng
kính công nghệ. Tôi thiên vị khi đặt câu hỏi liệu điều này có quan trọng hay
không. Tuy nhiên, khi đã tiến gần đến cuộc cách mạng đang diễn ra này trong hơn
một thập kỷ rưỡi qua, tôi tin rằng chúng ta đang ở trên đỉnh của sự chuyển đổi
quan trọng nhất trong cuộc đời mình.
Với tư cách là người xây dựng những công nghệ này, tôi tin rằng chúng có thể
mang lại vô số điều tốt đẹp, thay đổi cuộc sống của vô số người trở nên tốt đẹp
hơn và giải quyết những thách thức cơ bản, từ việc giúp giải phóng thế hệ năng
lượng sạch tiếp theo đến sản xuất các phương pháp điều trị rẻ tiền và hiệu quả
cho những bệnh khó chữa nhất của chúng ta. điều kiện. Công nghệ có thể và nên
làm phong phú thêm cuộc sống của chúng ta; về mặt lịch sử, cần phải nhắc lại
rằng, các nhà phát minh và doanh nhân đằng sau họ đã là những động lực mạnh mẽ
thúc đẩy sự tiến bộ, cải thiện mức sống cho hàng tỷ người chúng ta.
Nhưng nếu không có sự ngăn chặn, mọi khía cạnh khác của công nghệ, mọi cuộc
thảo luận về những thiếu sót về mặt đạo đức hoặc những lợi ích mà nó có thể
mang lại đều không quan trọng. Chúng tôi rất cần những câu trả lời chắc chắn về
cách có thể kiểm soát và ngăn chặn làn sóng sắp tới, cách duy trì các biện pháp
bảo vệ và khả năng chi trả của quốc gia dân chủ, nhưng hiện tại chưa có ai có
kế hoạch như vậy. Đây là một tương lai mà không ai trong chúng ta mong muốn,
nhưng tôi lo sợ rằng nó ngày càng có khả năng xảy ra và tôi sẽ giải thích lý do
tại sao trong các chương tiếp theo.
Trong phần 1, chúng ta xem xét lịch sử lâu dài của công nghệ và cách nó lan
truyền—các làn sóng hình thành qua hàng thiên niên kỷ. Điều gì thúc đẩy họ? Điều
gì làm cho chúng thực sự phổ biến? Chúng tôi cũng hỏi liệu có ví dụ nào về các
xã hội có ý thức nói không với công nghệ mới hay không. Thay vì quay lưng lại
với công nghệ, quá khứ được đánh dấu bằng một mô hình phát triển rõ rệt, dẫn
đến những chuỗi hậu quả có chủ ý và không lường trước.
Tôi gọi đây là “vấn đề ngăn chặn”. Làm thế nào để chúng ta nắm bắt được
những công nghệ có giá trị nhất từng được phát minh khi chúng rẻ hơn và lan
truyền nhanh hơn bất kỳ công nghệ nào trong lịch sử?
Phần 2 đi sâu vào chi tiết của làn sóng sắp tới. Trọng tâm của nó là hai
công nghệ đa năng đầy hứa hẹn, sức mạnh và cả sự nguy hiểm: trí tuệ nhân tạo
và sinh học tổng hợp. Cả hai đều đã được báo trước từ lâu, tuy nhiên, nếu có,
tôi tin rằng phạm vi tác động của chúng thường vẫn bị đánh giá thấp. Xung quanh
họ phát triển một loạt các công nghệ liên quan như robot và điện toán lượng tử
mà sự phát triển của chúng sẽ giao thoa theo những cách phức tạp và hỗn loạn.
Trong phần này, chúng ta không chỉ xem xét chúng xuất hiện như thế nào và
chúng có thể làm gì mà còn xem tại sao chúng lại khó ngăn chặn đến vậy. Các
công nghệ khác nhau mà tôi đang nói đến đều có chung bốn đặc điểm chính giải
thích tại sao hoạt động kinh doanh này không diễn ra như bình thường: chúng
vốn mang tính chung chung và do đó có thể sử dụng đa dạng, chúng siêu phát
triển, chúng có tác động bất đối xứng và ở một số khía cạnh, chúng đang ngày càng tự chủ.
Sự sáng tạo của họ được thúc đẩy bởi những động lực mạnh mẽ: cạnh tranh
địa chính trị, phần thưởng tài chính khổng lồ và văn hóa nghiên cứu mở, phân
tán. Rất nhiều chủ thể nhà nước và phi nhà nước sẽ chạy đua để phát triển chúng
bất kể nỗ lực điều chỉnh và kiểm soát những gì sắp xảy ra, chấp nhận rủi ro
ảnh hưởng đến mọi người, dù chúng ta có muốn hay không.
Phần 3 tìm hiểu những tác động chính trị của việc tái phân bổ quyền lực
khổng lồ do một làn sóng không bị kiềm chế gây ra. Nền tảng của trật tự chính
trị hiện nay của chúng ta – và tác nhân quan trọng nhất trong việc ngăn chặn
công nghệ – là quốc gia-dân tộc. Vốn đã bị rung chuyển bởi các cuộc khủng
hoảng, nó sẽ còn bị suy yếu hơn nữa bởi một loạt cú sốc được khuếch đại bởi
làn sóng: khả năng xảy ra các hình thức bạo lực mới, làn sóng thông tin sai
lệch, việc làm biến mất và viễn cảnh xảy ra những tai nạn thảm khốc.
Xa hơn nữa, làn sóng sẽ tạo ra một loạt các thay đổi mang tính kiến tạo về
quyền lực, vừa tập trung hóa vừa phân quyền cùng một lúc. Điều này sẽ tạo ra
các doanh nghiệp mới rộng lớn, củng cố chủ nghĩa độc tài, đồng thời cũng trao
quyền cho các nhóm và phong trào sống bên ngoài các cấu trúc xã hội truyền
thống. Cuộc mặc cả tế nhị của quốc gia-dân tộc sẽ được đặt
dưới sự căng thẳng tột độ ngay khi chúng ta cần những tổ chức giống như vậy nhất.
Đây là cách chúng ta rơi vào tình thế tiến thoái lưỡng nan.
Trong phần 4, cuộc thảo luận sẽ chuyển sang những gì chúng ta có thể làm
với vấn đề đó. Liệu có một cơ hội mong manh nào để ngăn chặn, để thoát khỏi tình
thế tiến thoái lưỡng nan không? Nếu vậy thì làm thế nào? Trong phần này, chúng
tôi phác thảo mười bước, thực hiện từ cấp độ mã và DNA đến cấp độ điều ước quốc
tế, hình thành một tập hợp các ràng buộc chặt chẽ, lồng ghép, một kế hoạch phác
thảo để ngăn chặn.
đây là một cuốn sách về việc đối mặt với thất bại. Công nghệ có thể thất
bại theo nghĩa thông thường là không hoạt động: động cơ không khởi động;
cây cầu đổ xuống. Nhưng họ cũng có thể thất bại theo nghĩa rộng hơn. Nếu
công nghệ gây tổn hại đến cuộc sống con người hoặc tạo ra những xã hội đầy
tổn hại hoặc khiến chúng không thể quản lý được vì chúng ta trao quyền cho
một nhóm dài những tác nhân xấu (hoặc vô tình nguy hiểm) hỗn loạn—nếu xét
tổng thể, công nghệ đang gây tổn hại—thì có thể nói rằng nó có thất bại
theo một nghĩa khác, sâu sắc hơn, không thực hiện được lời hứa của mình.
Thất bại theo nghĩa này không phải là bản chất của công nghệ; đó là về bối
cảnh mà nó hoạt động, các cơ cấu quản trị mà nó tuân theo, mạng lưới quyền
lực và mục đích sử dụng mà nó được đặt vào.
Sự khéo léo đầy ấn tượng đó đã tạo ra rất nhiều điều hiện nay có nghĩa
là chúng ta tránh được loại thất bại đầu tiên tốt hơn. Ít máy bay gặp tai
nạn hơn, ô tô sạch hơn và an toàn hơn, máy tính mạnh hơn và an toàn hơn.
Thử thách lớn nhất của chúng tôi là chúng tôi vẫn chưa tính đến kiểu thất
bại thứ hai.
Qua nhiều thế kỷ, công nghệ đã nâng cao đáng kể phúc lợi của hàng tỷ
người. Chúng ta khỏe mạnh hơn rất nhiều nhờ y học hiện đại, phần lớn thế
giới sống trong nguồn lương thực dồi dào, con người chưa bao giờ được giáo
dục tốt hơn, yên bình hơn hoặc thoải mái hơn về mặt vật chất. Đây là những
thành tựu nổi bật được tạo ra một phần bởi động cơ to lớn của nhân loại:
khoa học và sự sáng tạo
công nghệ. Đó là lý do tại sao tôi đã cống hiến cả cuộc đời mình để phát triển những công cụ này một cách
an toàn.
Nhưng bất kỳ sự lạc quan nào chúng ta có được từ lịch sử phi thường này đều phải dựa trên thực tế rõ
ràng. Đề phòng thất bại có nghĩa là hiểu và cuối cùng đối mặt với những gì có thể sai sót. Chúng ta cần
tuân theo chuỗi lý luận cho đến điểm cuối hợp lý của nó mà không sợ điều đó có thể dẫn đến đâu và khi đến
đó, chúng ta phải làm điều gì đó về nó. Làn sóng công nghệ sắp tới có nguy cơ thất bại nhanh hơn và trên
quy mô rộng hơn bất cứ điều gì từng chứng kiến trước đây. Tình trạng này cần được toàn thế giới quan tâm
rộng rãi. Nó cần những câu trả lời, những câu trả lời mà chưa ai có được.
Nhìn bề ngoài thì việc ngăn chặn là không thể thực hiện được. Tuy nhiên, vì lợi ích của tất cả chúng
ta, việc ngăn chặn phải khả thi.

PHẦN I
HOMO
CÔNG NGHỆ
CHƯƠNG 2
PHÁT TRIỂN VÔ TẬN
ĐỘNG CƠ
Trong hầu hết lịch sử, đối với hầu hết mọi người, phương tiện giao thông cá nhân
có nghĩa là một điều: đi bộ. Hoặc nếu bạn may mắn, có hai điều: được
ngựa, bò, voi hoặc các thú vật khác chở hoặc kéo. Chỉ di chuyển giữa
các khu định cư lân cận—quên các lục địa— đã khó khăn và chậm chạp.
Vào đầu thế kỷ 19, đường sắt đã cách mạng hóa giao thông vận tải,
sự đổi mới lớn nhất trong hàng ngàn năm, nhưng hầu hết các hành trình
không bao giờ có thể được thực hiện bằng đường sắt và những hành trình
đó không được cá nhân hóa cho lắm. Đường sắt đã nói rõ một điều: động
cơ là tương lai. Động cơ hơi nước có khả năng đẩy các toa xe lửa cần
có nồi hơi lớn bên ngoài. Nhưng nếu bạn có thể thu nhỏ chúng xuống
kích thước di động, dễ quản lý, bạn sẽ có những phương tiện hoàn toàn
mới để mọi người di chuyển.
Các nhà đổi mới đã thử nhiều cách tiếp cận khác nhau. Ngay từ
thế kỷ 18, một nhà phát minh người Pháp tên là Nicolas-Joseph
Cugnot đã chế tạo một loại ô tô chạy bằng hơi nước. Nó lê bước
với tốc độ hai dặm một giờ và có một nồi hơi khổng lồ treo lơ
lửng ở phía trước. Năm 1863, nhà phát minh người Bỉ Jean Joseph
Étienne Lenoir đã trang bị động cơ đốt trong cho chiếc xe đầu
tiên, lái nó ra khỏi Paris bảy dặm. Nhưng động cơ nặng, tốc độ bị
hạn chế. Những người khác đã thử nghiệm điện và hydro. Không có
gì thành công, nhưng giấc mơ về phương tiện giao thông cá nhân tự hành vẫn tồ
Sau đó mọi thứ bắt đầu thay đổi, lúc đầu còn chậm. Một kỹ sư người Đức tên là
Nicolaus August Otto đã dành nhiều năm nghiên cứu động cơ chạy bằng khí, nhỏ hơn
nhiều so với động cơ hơi nước. Đến năm 1876, tại nhà máy Deutz AG ở Cologne, Otto
đã sản xuất động cơ đốt trong chức năng đầu tiên, kiểu “bốn thì”. Nó đã sẵn sàng
để sản xuất hàng loạt, nhưng không phải trước khi Otto bất hòa với các đối tác
kinh doanh của mình, Gottlieb Daimler và Wilhelm Maybach. Otto muốn sử dụng động
cơ của mình ở những nơi cố định như máy bơm nước hoặc nhà máy. Các đối tác của ông
đã nhìn thấy một cách sử dụng khác cho các động cơ ngày càng mạnh mẽ: vận chuyển.
Tuy nhiên, chính một kỹ sư người Đức khác, Carl Benz, là người đã đưa họ đến
vị trí này. Sử dụng phiên bản động cơ đốt trong bốn thì của mình, vào năm 1886,
ông đã cấp bằng sáng chế cho Motorwagen, hiện được coi là chiếc ô tô đích thực đầu
tiên trên thế giới. Chiếc xe ba bánh kỳ lạ này đã ra mắt công chúng còn nhiều hoài
nghi. Chỉ đến khi vợ và đối tác kinh doanh của Benz, Bertha, lái chiếc xe từ
Mannheim về nhà mẹ cô, cách đó 65 dặm ở Pforzheim, thì chiếc xe đó mới bắt đầu
phát triển. Cô ấy đã lấy nó mà anh ấy không hề hay biết, đổ đầy nhiên liệu trên
đường đi bằng dung môi mua từ các hiệu thuốc địa phương.
Một thời đại mới đã bắt đầu. Nhưng ô tô và động cơ đốt trong cung cấp năng
lượng cho chúng vẫn cực kỳ đắt đỏ, vượt quá khả năng chi trả của tất cả mọi người,
trừ những người giàu nhất. Chưa có mạng lưới đường giao thông và trạm tiếp nhiên
liệu nào tồn tại. Đến năm 1893, Benz đã bán được 69 chiếc xe; đến năm 1900 chỉ còn
1.709. Hai mươi năm sau khi Benz được cấp bằng sáng chế, vẫn chỉ có 35.000 phương
tiện lưu thông trên đường ở Đức.
Bước ngoặt là chiếc Model T năm 1908 của Henry Ford. Chiếc xe đơn giản nhưng
hiệu quả của ông được chế tạo bằng cách sử dụng một phương pháp mang tính cách
mạng: dây chuyền lắp ráp chuyển động. Một quy trình hiệu quả, tuyến tính và lặp đi
lặp lại đã giúp anh giảm giá phương tiện cá nhân và người mua cũng làm theo. Hầu
hết ô tô vào thời điểm đó đều có giá khoảng 2.000 USD. Ford định giá chiếc xe của
anh ấy là 850 USD.
Trong những năm đầu, doanh số bán Model T lên tới hàng nghìn chiếc.
Ford tiếp tục tăng cường sản xuất và giảm giá hơn nữa, lập luận: “Mỗi lần tôi giảm
giá ô tô của chúng tôi xuống một đô la, tôi

có được hàng nghìn người mua mới.” Đến những năm 1920, Ford đã bán được hàng triệu
chiếc ô tô mỗi năm. Lần đầu tiên, tầng lớp trung lưu Mỹ có thể mua được phương
tiện giao thông cơ giới. Ôtô nở rộ với tốc độ chóng mặt. Năm 1915 chỉ có 10% người
Mỹ có ô tô; đến năm 1930 con số này đã lên đến con số đáng kinh ngạc là 59%.
Ngày nay có khoảng 2 tỷ động cơ đốt trong mọi thứ, từ máy cắt cỏ đến tàu
container. Khoảng 1,4 tỷ trong số đó là trong ô tô. Chúng đã phát triển đều
đặn hơn, dễ tiếp cận hơn, hiệu quả hơn, mạnh mẽ hơn và dễ thích nghi hơn. Cả
một lối sống, có thể nói là cả một nền văn minh, đã phát triển xung quanh họ,
từ những vùng ngoại ô rộng lớn đến các trang trại công nghiệp, nhà hàng phục
vụ cho khách lái xe đến văn hóa xe hơi. Những đường cao tốc rộng lớn được xây
dựng, đôi khi xuyên qua các thành phố, cắt đứt các khu dân cư nhưng kết nối
các vùng xa xôi. Khái niệm đầy thách thức trước đây về việc di chuyển từ nơi
này sang nơi khác để tìm kiếm sự thịnh vượng hoặc niềm vui đã trở thành một
đặc điểm thường xuyên của cuộc sống con người.
Động cơ không chỉ cung cấp năng lượng cho xe cộ; họ đã lái xe vào lịch sử.
Giờ đây, nhờ có động cơ hydro và điện, sự thống trị của động cơ đốt trong đang
dần lụi tàn. Nhưng thời đại di chuyển đại chúng mà nó mở ra thì không.
Tất cả những điều này dường như là không thể vào đầu thế kỷ 19, khi phương
tiện giao thông tự hành vẫn còn là thứ dành cho những kẻ mơ mộng nghịch lửa, bánh
đà và những khối kim loại. Nhưng từ những người mày mò đầu tiên đó đã bắt đầu một
cuộc chạy marathon về phát minh và sản xuất đã làm thay đổi thế giới. Một khi đã
có đà, sự lan rộng của động cơ đốt trong trở nên không thể ngăn cản. Từ một số
xưởng sản xuất ngập dầu ở Đức đã phát triển một công nghệ có ảnh hưởng đến mọi
con người trên trái đất.
Tuy nhiên, đây không chỉ là câu chuyện về động cơ và ô tô. Đó là câu
chuyện của chính công nghệ.
SÓNG CÓ MỤC ĐÍCH CHUNG:
NHIỆM VỤ LỊCH SỬ
Công nghệ có một quỹ đạo rõ ràng và tất yếu: khuếch tán khối lượng theo những
đợt sóng cuộn lớn. Điều này đúng từ những công cụ bằng xương và đá lửa đầu
tiên cho đến các mô hình AI mới nhất. Khi khoa học tạo ra những khám phá mới,
con người áp dụng những hiểu biết này để tạo ra thực phẩm rẻ hơn, hàng hóa
tốt hơn và vận tải hiệu quả hơn. Theo thời gian, nhu cầu về các sản phẩm và
dịch vụ mới tốt nhất ngày càng tăng, thúc đẩy sự cạnh tranh để tạo ra các
phiên bản rẻ hơn với nhiều tính năng hơn. Điều này lại thúc đẩy nhu cầu nhiều
hơn về các công nghệ tạo ra chúng và chúng cũng trở nên dễ sử dụng hơn và rẻ
hơn. Chi phí tiếp tục giảm. Khả năng tăng lên.
Thử nghiệm, lặp lại, sử dụng. Phát triển, cải thiện, thích nghi. Đây là bản
chất tiến hóa không thể tránh khỏi của công nghệ.
Những làn sóng công nghệ và đổi mới này là trọng tâm của cuốn sách này.
Quan trọng hơn, họ là trung tâm của lịch sử loài người.
Hiểu được những làn sóng phức tạp, hỗn loạn và tích tụ này thì thách thức
ngăn chặn sẽ trở nên rõ ràng. Hiểu lịch sử của họ và chúng ta có thể bắt đầu
phác họa tương lai của họ.
Vậy sóng là gì? Nói một cách đơn giản, làn sóng là một tập hợp các công
nghệ kết hợp với nhau cùng một lúc, được hỗ trợ bởi một hoặc một số công nghệ
có mục đích chung mới có ý nghĩa xã hội sâu sắc. Khi nói đến “công nghệ có
mục đích chung”, ý tôi là những công nghệ mang lại những tiến bộ vượt bậc
trong những gì con người có thể làm. Xã hội mở ra cùng với những bước nhảy
vọt này. Chúng ta thấy nó nhiều lần; một phần công nghệ mới, như động cơ đốt
trong, sinh sôi nảy nở và biến đổi mọi thứ xung quanh nó.
Câu chuyện của con người có thể được kể thông qua những làn sóng này: quá
trình tiến hóa của chúng ta từ những loài linh trưởng dễ bị tổn thương bắt
đầu tồn tại trên thảo nguyên đến việc trở thành lực lượng thống trị hành
tinh, dù tốt hay xấu. Con người là loài có khả năng công nghệ bẩm sinh. Ngay
từ đầu, chúng tôi không bao giờ tách rời làn sóng công nghệ mà chúng tôi tạo
ra. Chúng ta cùng nhau phát triển, trong sự cộng sinh.
Những công cụ bằng đá sớm nhất có niên đại ba triệu năm, rất lâu trước buổi
bình minh của loài Homo sapiens, bằng chứng là những chiếc búa đập nát và những
con dao thô sơ. Chiếc rìu cầm tay đơn giản là một phần của làn sóng công nghệ
đầu tiên trong lịch sử. Động vật có thể bị giết một cách hiệu quả hơn, xác bị
giết thịt, các đối thủ có thể chiến đấu. Cuối cùng, con người ban đầu đã học
cách sử dụng những công cụ này một cách tinh xảo, từ đó phát triển nghề may vá,
vẽ tranh, chạm khắc và nấu ăn.
Một làn sóng khác cũng quan trọng không kém: lửa. Được sử dụng bởi tổ tiên
Homo erectus của chúng ta, nó là nguồn ánh sáng, hơi ấm và sự an toàn trước
những kẻ săn mồi. Nó có tác động rõ rệt đến quá trình tiến hóa: nấu thức ăn
đồng nghĩa với việc giải phóng năng lượng nhanh hơn, cho phép đường tiêu hóa
của con người co lại và não to ra. Tổ tiên của chúng ta, với bộ hàm chắc khỏe
hạn chế sự phát triển của hộp sọ, đã dành thời gian nhai và tiêu hóa thức ăn
không ngừng nghỉ như loài linh trưởng ngày nay. Được giải phóng khỏi nhu cầu
trần tục này nhờ lửa, họ có thể dành nhiều thời gian hơn để làm những việc thú
vị như săn tìm những thực phẩm giàu năng lượng, công cụ thời trang hoặc xây
dựng mạng lưới xã hội phức tạp. Lửa trại trở thành trung tâm của đời sống con
người, giúp thiết lập các cộng đồng, các mối quan hệ và tổ chức lao động. Sự
tiến hóa của Homo sapiens đã thúc đẩy những làn sóng này.
Chúng tôi không chỉ là người tạo ra các công cụ của mình. Xét về mức độ sinh
học, giải phẫu, chúng ta là sản phẩm của chúng.
Đồ đá và lửa là những công nghệ có mục đích chung, có nghĩa là chúng có sức
lan tỏa rộng rãi, từ đó tạo điều kiện cho các phát minh, hàng hóa và hành vi tổ
chức mới. Các công nghệ có mục đích chung lan tỏa khắp các xã hội, khắp các khu
vực địa lý và trong suốt lịch sử.
Họ mở rộng cánh cửa phát minh, tạo điều kiện cho nhiều công cụ và quy trình tiếp
theo. Chúng thường được xây dựng dựa trên một số loại nguyên tắc có mục đích
chung, dù là sức mạnh của hơi nước để thực hiện công hay lý thuyết thông tin
đằng sau mã nhị phân của máy tính.
Điều trớ trêu của các công nghệ có mục đích chung là chẳng bao lâu sau,
chúng trở nên vô hình và chúng ta coi đó là điều hiển nhiên. Ngôn ngữ, nông
nghiệp, chữ viết—mỗi thứ đều là một công nghệ có mục đích chung ở trung tâm của
làn sóng đầu tiên. Ba làn sóng này hình thành nên nền tảng của
nền văn minh như chúng ta biết. Bây giờ chúng tôi coi chúng là đương
nhiên. Một nghiên cứu lớn đã xác định số lượng công nghệ có mục đích
chung đã xuất hiện trong toàn bộ lịch sử loài người chỉ là 24, đặt tên
cho các phát minh từ nông nghiệp, hệ thống nhà máy, sự phát triển của
các vật liệu như sắt và đồng, cho đến máy in. , điện và tất nhiên là
internet. Không có nhiều trong số đó, nhưng chúng quan trọng; đó là lý
do tại sao trong trí tưởng tượng phổ biến, chúng ta vẫn sử dụng những
thuật ngữ như Thời đại đồ đồng và Thời đại cánh buồm.
Trong suốt lịch sử, quy mô dân số và mức độ đổi mới có mối liên hệ
với nhau. Các công cụ và kỹ thuật mới làm tăng dân số lớn hơn.
Các quần thể lớn hơn và được kết nối nhiều hơn là những lò luyện kim
mạnh mẽ hơn cho việc mày mò, thử nghiệm và khám phá tình cờ, một “bộ
não tập thể” mạnh mẽ hơn để tạo ra những điều mới. Dân số đông tạo ra
mức độ chuyên môn hóa cao hơn, các tầng lớp người mới như nghệ nhân và
học giả có sinh kế không gắn liền với đất đai.
Nhiều người hơn mà cuộc sống không xoay quanh việc sinh hoạt có nghĩa
là có nhiều nhà phát minh khả thi hơn và nhiều lý do khả thi hơn để có
những phát minh, và những phát minh đó đồng nghĩa với việc sẽ có nhiều
người hơn. Từ những nền văn minh sớm nhất, như Uruk ở Lưỡng Hà, nơi ra
đời của chữ hình nêm, hệ thống chữ viết đầu tiên được biết đến, cho
đến các siêu đô thị ngày nay, các thành phố đã thúc đẩy sự phát triển
công nghệ. Và nhiều công nghệ hơn có nghĩa là có nhiều thành phố hơn
và lớn hơn. Vào buổi bình minh của Cách mạng Nông nghiệp, dân số toàn
thế giới chỉ có 2,4 triệu người. Khi bắt đầu Cách mạng Công nghiệp,
con số này đã đạt tới con số 1 tỷ, mức tăng gấp bốn trăm lần dựa trên
các làn sóng của thời kỳ xen giữa.
Cách mạng Nông nghiệp (9000 –7500 BCE), một trong những làn sóng
quan trọng nhất trong lịch sử, đánh dấu sự xuất hiện của hai công nghệ
đa năng quy mô lớn dần dần thay thế lối sống du mục, săn bắn hái lượm:
thuần hóa thực vật và động vật. Những sự phát triển này đã thay đổi
không chỉ cách thức tìm thấy thực phẩm mà còn cả cách thức lưu trữ,
cách vận chuyển và quy mô mà một xã hội có thể vận hành. Các loại cây
trồng sớm như lúa mì, lúa mạch, đậu lăng,
đậu xanh, đậu Hà Lan và các động vật như lợn, cừu và dê trở thành đối
tượng kiểm soát của con người. Cuối cùng, điều này kết hợp với một cuộc
cách mạng mới về công cụ - cuốc và máy cày. Những đổi mới đơn giản này
đã đánh dấu sự khởi đầu của nền văn minh hiện đại.
Bạn càng có nhiều công cụ, bạn càng có thể làm được nhiều việc hơn
và bạn càng có thể tưởng tượng ra nhiều công cụ và quy trình mới ngoài
chúng. Như nhà nhân chủng học Harvard Joseph Henrich đã chỉ ra, bánh xe
xuất hiện muộn một cách đáng ngạc nhiên trong cuộc đời con người. Nhưng
một khi được phát minh, nó trở thành khối cơ bản của mọi thứ, từ xe
ngựa, xe ngựa cho đến máy xay, máy ép và bánh đà. Từ chữ viết đến tàu
thuyền, công nghệ làm tăng tính liên kết, giúp thúc đẩy dòng chảy và sự
lan rộng của chính nó. Do đó, mỗi làn sóng đặt nền móng cho các làn sóng
tiếp theo.
Theo thời gian, động lực này tăng tốc. Bắt đầu vào khoảng những năm
1770 ở châu Âu, làn sóng đầu tiên của Cách mạng Công nghiệp kết hợp
năng lượng hơi nước, máy dệt cơ giới, hệ thống nhà máy và kênh đào. Vào
những năm 1840 là thời đại của đường sắt, điện báo, tàu hơi nước, và
sau đó là thép và máy công cụ; họ cùng nhau tạo nên cuộc Cách mạng công
nghiệp lần thứ nhất. Sau đó, chỉ vài thập kỷ sau, cuộc Cách mạng công
nghiệp lần thứ hai diễn ra. Bạn sẽ quen thuộc với những thành công lớn
nhất của nó: động cơ đốt trong, kỹ thuật hóa học, chuyến bay chạy bằng
năng lượng và điện. Chuyến bay cần sự đốt cháy, và việc sản xuất hàng
loạt động cơ đốt trong đòi hỏi thép và máy công cụ, v.v. Bắt đầu với
Cách mạng Công nghiệp, sự thay đổi to lớn được đo bằng thập kỷ thay vì
thế kỷ hay thiên niên kỷ.
Tuy nhiên, đây không phải là một quá trình có trật tự. Sóng công
nghệ không đến với khả năng dự đoán chính xác của thủy triều. Về lâu
dài, các sóng giao nhau và tăng cường một cách thất thường. Mười nghìn
năm cho đến năm 1000 trước Công nguyên đã chứng kiến bảy công nghệ đa
năng xuất hiện. Hai trăm năm từ 1700 đến 1900 đánh dấu sự xuất hiện của
sáu loại, từ động cơ hơi nước đến điện. Và chỉ trong một trăm năm qua
đã có bảy. Hãy xem xét rằng những đứa trẻ
lớn lên bằng việc di chuyển bằng ngựa, xe bò và đốt củi để sưởi ấm vào cuối
thế kỷ 19, trải qua những ngày cuối cùng của họ di chuyển bằng máy bay và
sống trong những ngôi nhà được sưởi ấm bởi sự phân tách nguyên tử.
Các làn sóng—dao động, nổi lên, nối tiếp, tổng hợp và thụ phấn chéo—xác
định chân trời khả năng công nghệ của một thời đại.
Họ là một phần của chúng tôi. Không có thứ gọi là con người không có công
nghệ.
Quan niệm coi lịch sử như một chuỗi các làn sóng đổi mới không phải là
mới lạ. Các cụm công nghệ mang tính đột phá và tuần tự tái diễn trong các
cuộc thảo luận về công nghệ. Đối với nhà tương lai học Alvin Toffler, cuộc
cách mạng công nghệ thông tin là “làn sóng thứ ba” trong xã hội loài người
sau các cuộc cách mạng Nông nghiệp và Công nghiệp. Joseph Schumpeter coi các
làn sóng là sự bùng nổ của sự đổi mới, thúc đẩy các doanh nghiệp mới bùng nổ
“sự hủy diệt mang tính sáng tạo”. Nhà triết học công nghệ vĩ đại Lewis
Mumford tin rằng “thời đại máy móc” thực sự giống như một nghìn năm mở ra
của ba làn sóng lớn liên tiếp. Gần đây hơn, nhà kinh tế học Carlota Perez đã
nói về “các mô hình kinh tế-kỹ thuật” đang thay đổi nhanh chóng trong bối
cảnh các cuộc cách mạng công nghệ. Những khoảnh khắc bùng nổ của sự gián
đoạn và hoạt động đầu cơ hoang dã đang phục hồi nền kinh tế. Đột nhiên mọi
thứ đều phụ thuộc vào đường sắt, ô tô hoặc bộ vi xử lý. Cuối cùng, công nghệ
này trưởng thành, được tích hợp và phổ biến rộng rãi.
Hầu hết mọi người trong lĩnh vực công nghệ đều bị mắc kẹt trong những chi
tiết vụn vặt của ngày hôm nay và mơ về ngày mai. Thật hấp dẫn khi nghĩ đến những
phát minh trong những khoảnh khắc riêng biệt và may mắn. Nhưng làm như vậy bạn sẽ
bỏ lỡ những mô hình rõ ràng của lịch sử, xu hướng gần như bẩm sinh của các làn
sóng công nghệ liên tục xuất hiện.
PHÁT TRIỂN LÀ MẶC ĐỊNH
Trong hầu hết lịch sử loài người, sự phổ biến của công nghệ mới là rất hiếm.
Hầu hết con người được sinh ra, sống và chết trong cùng một môi trường
của các công cụ và công nghệ. Tuy nhiên, hãy thu nhỏ và có thể thấy
rõ rằng sự phổ biến là mặc định.
Các công nghệ có mục đích chung sẽ trở thành làn sóng khi chúng lan tỏa rộng
rãi. Nếu không có sự lan tỏa toàn cầu hoành tráng và gần như không thể kiểm soát
được thì đó không phải là một làn sóng; đó là một sự tò mò lịch sử. Tuy nhiên,
một khi quá trình khuếch tán bắt đầu, quá trình này sẽ lặp lại trong suốt lịch
sử, từ sự lan rộng của nông nghiệp khắp lục địa Á-Âu cho đến sự phân tán chậm
rãi của các nhà máy nước từ Đế chế La Mã trên khắp châu Âu. Một khi công nghệ
có được lực kéo, khi một làn sóng bắt đầu hình thành, hình mẫu lịch sử mà chúng
ta đã thấy với ô tô là rõ ràng.
Khi Gutenberg phát minh ra máy in vào khoảng năm 1440, chỉ có một
ví dụ duy nhất ở châu Âu: bản gốc của ông ở Mainz, Đức.
Nhưng chỉ năm mươi năm sau, hàng nghìn máy in đã lan rộng khắp lục
địa. Bản thân sách, một trong những công nghệ có ảnh hưởng nhất trong
lịch sử, được nhân lên với tốc độ bùng nổ. Vào thời Trung cổ, việc sản
xuất bản thảo đạt mức hàng trăm nghìn bản ở mỗi quốc gia lớn trong mỗi
thế kỷ. Một trăm năm sau Gutenberg, các quốc gia như Ý, Pháp và Đức đã
sản xuất khoảng 40 triệu cuốn sách trong nửa thế kỷ và tốc độ tăng
tốc vẫn đang tăng lên. Vào thế kỷ XVII, Châu Âu đã in 500 triệu cuốn
sách. Khi nhu cầu tăng vọt, chi phí giảm mạnh.
Một phân tích ước tính rằng sự ra đời của báo in vào thế kỷ 15 đã
khiến giá sách giảm 340 lần, tiếp tục thúc đẩy việc áp dụng và nhu cầu
nhiều hơn nữa.
Hoặc lấy điện. Các nhà máy điện đầu tiên ra mắt ở London và New
York vào năm 1882, Milan và St. Petersburg vào năm 1883, và Berlin
vào năm 1884. Việc triển khai của họ tăng tốc từ đó. Năm 1900, 2% sản
lượng nhiên liệu hóa thạch được dành cho sản xuất điện, đến năm 1950,
con số này là trên 10% và đến năm 2000, con số này đạt hơn 30%. Năm
1900 sản lượng điện toàn cầu đạt 8 terawatt giờ; 50 năm sau, con số
này là 600, tạo động lực cho một nền kinh tế chuyển đổi.
Nhà kinh tế học đoạt giải Nobel William Nordhaus đã tính toán rằng cùng một
lượng lao động từng tạo ra 54 phút ánh sáng chất lượng vào thế kỷ 18 thì nay đã tạo
ra hơn 50 năm ánh sáng. Kết quả là, một người bình thường trong thế kỷ 21 có khả
năng tiếp cận lượng “lumen-giờ” mỗi năm nhiều hơn khoảng 438.000 lần so với những
người anh em họ của chúng ta ở thế kỷ 18.
Không có gì đáng ngạc nhiên khi công nghệ tiêu dùng cũng có xu hướng tương tự.
Alexander Graham Bell giới thiệu điện thoại vào năm 1876. Đến năm 1900, nước Mỹ có
600.000 chiếc điện thoại. Mười năm sau đã có 5,8 triệu. Ngày nay nước Mỹ có nhiều
điện thoại hơn dân số.
Tăng chất lượng tham gia giảm giá trong bức tranh này. Một chiếc TV nguyên thủy
có giá 1.000 USD vào năm 1950 sẽ chỉ có giá 8 USD vào năm 2023, tuy nhiên, tất
nhiên, TV ngày nay tốt hơn rất nhiều và do đó có giá cao hơn.
Bạn có thể tìm thấy các đường cong giá (và sự chấp nhận) gần như giống hệt nhau đối
với ô tô, lò vi sóng hoặc máy giặt. Quả thực, thế kỷ 20 và 21 đã chứng kiến sự áp
dụng nhất quán các thiết bị điện tử tiêu dùng mới. Lặp đi lặp lại, mô hình này không
thể nhầm lẫn.
Sự phổ biến vũ khí hạt nhân được thúc đẩy bởi hai lực lượng: nhu cầu và chi phí
giảm xuống, mỗi lực lượng đều thúc đẩy công nghệ trở nên tốt hơn và rẻ hơn. Cuộc đối
thoại lâu dài và phức tạp về khoa học và công nghệ tạo ra một chuỗi hiểu biết sâu
sắc, đột phá và các công cụ giúp xây dựng và củng cố theo thời gian, những sự kết
hợp hiệu quả sẽ thúc đẩy tương lai. Khi bạn có được nhiều công nghệ hơn và rẻ hơn,
nó sẽ tạo điều kiện cho các công nghệ mới và rẻ hơn ở hạ nguồn. Uber không thể thực
hiện được nếu không có điện thoại thông minh, bản thân nó đã được kích hoạt bởi GPS,
được kích hoạt bởi vệ tinh, được kích hoạt bởi tên lửa, được kích hoạt bởi kỹ thuật
đốt cháy, được kích hoạt bởi ngôn ngữ và lửa.
Tất nhiên, đằng sau những đột phá về công nghệ là con người. Họ nỗ lực cải tiến
công nghệ trong các xưởng, phòng thí nghiệm và gara, được thúc đẩy bởi tiền bạc,
danh vọng và thường là kiến thức.
Các nhà công nghệ, nhà đổi mới và doanh nhân trở nên giỏi hơn bằng cách thực hiện và
quan trọng nhất là bằng cách sao chép. Từ chiếc cày vượt trội của kẻ thù của bạn đến
điện thoại di động mới nhất, việc sao chép là động lực quan trọng của việc phổ biến. Sự
bắt chước thúc đẩy sự cạnh tranh và công nghệ ngày càng được cải thiện. Tính kinh tế nhờ
quy mô phát huy tác dụng và giảm chi phí.
Sự khao khát của nền văn minh đối với các công nghệ hữu ích và rẻ hơn là
vô biên. Điều này sẽ không thay đổi.
TỪ ỐNG CHÂN KHÔNG ĐẾN NANOMETER:
PHÁT TRIỂN TURBO
Nếu bạn muốn biết điều gì sẽ xảy ra tiếp theo, hãy xem xét nền tảng của làn sóng
trưởng thành cuối cùng. Ngay từ đầu, máy tính đã được điều khiển bởi toán học biên
giới mới cũng như sự cấp bách của xung đột giữa các cường quốc.
Giống như động cơ đốt trong, máy tính khởi đầu là công cụ của những bài báo học
thuật ít người biết đến và những người mày mò trong phòng thí nghiệm. Sau đó đến chiến
tranh. Vào những năm 1940, Bletchley Park, trung tâm giải mã bí mật hàng đầu trong Thế
chiến II của Anh, lần đầu tiên bắt đầu tạo ra một chiếc máy tính thực sự. Chạy đua để
bẻ khóa những cỗ máy Enigma được cho là không thể phá vỡ của Đức, một nhóm phi thường
đã biến những hiểu biết sâu sắc về mặt lý thuyết thành một thiết bị thực tế có khả
năng làm được điều đó.
Những người khác cũng có mặt trong vụ án. Đến năm 1945, tiền thân quan trọng của
máy tính có tên ENIAC, một cỗ máy khổng lồ cao 8 feet gồm 18 nghìn ống chân không có
khả năng thực hiện ba trăm phép tính một giây, đã được phát triển tại Đại học
Pennsylvania. Bell Labs đã khởi xướng một bước đột phá quan trọng khác vào năm 1947:
bóng bán dẫn, một chất bán dẫn tạo ra “các cổng logic” để thực hiện các phép tính.
Thiết bị thô sơ này, bao gồm một chiếc kẹp giấy, một mảnh giấy vàng và một tinh thể
germanium có thể chuyển đổi tín hiệu điện tử, đã đặt nền tảng cho thời đại kỹ thuật số.
Đối với ô tô, những người quan sát đương thời không hề thấy rõ rằng điện toán sẽ
lan truyền nhanh chóng. Vào cuối những năm 1940 vẫn chỉ có một vài thiết bị. Đầu thập
kỷ đó, chủ tịch của IBM, Thomas J. Watson, đã bị cáo buộc (và nổi tiếng) đã nói: “Tôi
nghĩ
có một thị trường thế giới cho khoảng năm chiếc máy tính.” Tạp chí
Popular Mechanics đã đưa ra một dự báo tiêu biểu vào thời điểm đó vào
năm 1949: “Máy tính trong tương lai có thể chỉ có 1000 ống chân không,”
tạp chí lập luận, “và có lẽ chỉ nặng 1,5 tấn”. Một thập kỷ sau Bletchley,
khắp thế giới vẫn chỉ có hàng trăm máy tính.
Chúng tôi biết chuyện gì xảy ra tiếp theo. Máy tính đã biến đổi xã
hội nhanh hơn bất kỳ ai dự đoán và phát triển nhanh hơn bất kỳ phát minh
nào trong lịch sử loài người. Robert Noyce đã phát minh ra mạch tích hợp
tại Fairchild Semiconductor vào cuối những năm 1950 và 1960, in nhiều
bóng bán dẫn lên các tấm silicon để tạo ra thứ mà sau này được gọi là
chip silicon. Ngay sau đó, một nhà nghiên cứu tên là Gordon Moore đã đề
xuất “định luật” cùng tên của ông: cứ sau 24 tháng, số lượng bóng bán dẫn
trên một con chip sẽ tăng gấp đôi. Điều đó ngụ ý rằng chip, và nói rộng
ra là thế giới công nghệ tính toán và kỹ thuật số, sẽ phải tuân theo
đường cong đi lên của một quá trình theo cấp số nhân.
Kết quả thật đáng kinh ngạc. Kể từ đầu những năm 1970, số lượng bóng
bán dẫn trên mỗi con chip đã tăng gấp 10 triệu lần. Sức mạnh của họ đã
tăng lên gấp mười bậc - cải thiện gấp mười bảy tỷ lần. Fairchild
Semiconductor đã bán được 100 bóng bán dẫn với giá 150 USD mỗi bóng bán
dẫn vào năm 1958. Các bóng bán dẫn hiện được sản xuất với tốc độ hàng
chục nghìn tỷ mỗi giây, ở mức một phần tỷ đô la trên mỗi bóng bán dẫn:
tốc độ phát triển nhanh nhất, rộng rãi nhất trong lịch sử.
Và tất nhiên, sự gia tăng sức mạnh tính toán này đã củng cố sự phát
triển mạnh mẽ của các thiết bị, ứng dụng và người dùng. Đầu những năm
1970 có khoảng nửa triệu máy tính. Trở lại năm 1983, chỉ có tổng cộng 562
máy tính được kết nối với Internet nguyên thủy. Hiện nay số lượng máy
tính, điện thoại thông minh và các thiết bị kết nối ước tính khoảng 14
tỷ. Điện thoại thông minh phải mất vài năm để đi từ sản phẩm thích hợp
trở thành mặt hàng cực kỳ thiết yếu cho 2/3 dân số hành tinh.
Cùng với làn sóng này xuất hiện email, mạng xã hội, video trực tuyến—
mỗi trải nghiệm về cơ bản đều mới được kích hoạt bởi bóng bán dẫn và một
công nghệ đa năng khác, Internet. Đây là những gì tinh khiết,
sự phổ biến công nghệ không được kiểm soát trông như thế nào. Nó đã tạo
ra một sự gia tăng đáng kinh ngạc hơn nữa: dữ liệu, tăng gấp 20 lần chỉ
trong thập kỷ 2010–2020. Chỉ vài thập kỷ trước, việc lưu trữ dữ liệu là
lĩnh vực của sách và các kho lưu trữ bụi bặm. Giờ đây con người tạo ra
hàng trăm tỷ email, tin nhắn, hình ảnh và video hàng ngày và lưu trữ
chúng trên đám mây. Mười tám triệu gigabyte dữ liệu được thêm vào tổng
số toàn cầu mỗi phút mỗi ngày.
Hàng tỷ giờ cuộc sống thô sơ của con người được tiêu thụ, định hình, bóp méo
và làm phong phú thêm bởi những công nghệ này. Họ thống trị công việc kinh doanh
và thời gian rảnh rỗi của chúng ta. Chúng chiếm giữ tâm trí chúng ta và mọi ngóc
ngách trong thế giới của chúng ta, từ tủ lạnh, đồng hồ hẹn giờ, cửa gara, máy trợ
thính cho đến tua-bin gió. Chúng tạo thành kiến trúc của cuộc sống hiện đại. Điện
thoại là vật đầu tiên chúng ta nhìn thấy vào buổi sáng và là vật cuối cùng chúng
ta nhìn thấy vào ban đêm. Mọi khía cạnh của cuộc sống con người đều bị ảnh hưởng:
chúng giúp chúng ta tìm thấy tình yêu và những người bạn mới trong khi tăng tốc
chuỗi cung ứng. Chúng ảnh hưởng đến việc ai được bầu và cách thức, tiền của chúng
ta được đầu tư vào đâu, lòng tự trọng của con cái chúng ta, gu âm nhạc, thời
trang, đồ ăn của chúng ta và mọi thứ liên quan.
Ai đó đến từ thế giới thời hậu chiến sẽ bị choáng ngợp bởi quy mô và
tầm ảnh hưởng của thứ tưởng chừng như là một công nghệ thích hợp.
Khả năng vượt trội của máy tính trong việc lan rộng và cải thiện với tốc độ
theo cấp số nhân, xâm nhập và bao trùm hầu hết mọi khía cạnh của cuộc sống,
đã trở thành thực tế nổi bật của nền văn minh đương đại. Không có làn sóng
nào trước đó mọc lên nhanh chóng như vậy, nhưng mô hình lịch sử vẫn lặp
lại. Lúc đầu, điều đó có vẻ không thể và không thể tưởng tượng được. Sau
đó, nó dường như không thể tránh khỏi. Và mỗi làn sóng vẫn lớn hơn và mạnh hơn.
thật dễ dàng để bị lạc vào các chi tiết, nhưng hãy lùi lại và bạn có thể
thấy các làn sóng thu thập tốc độ, phạm vi, khả năng tiếp cận và hậu quả.
Một khi đã lấy được đà, họ hiếm khi dừng lại. Sự phổ biến rộng rãi, sự
phổ biến thô sơ, tràn lan – đây là mặc định lịch sử của công nghệ,
điều gần gũi nhất với trạng thái tự nhiên. Hãy nghĩ đến nông nghiệp, đồ đồng, máy in, ô tô, tivi,
điện thoại thông minh và những thứ còn lại. Sau đó, có những thứ dường như là quy luật công nghệ,
thứ gì đó giống như một đặc tính vốn có, những đặc tính nổi bật đứng vững trước thử thách của
thời gian.
Lịch sử cho chúng ta biết rằng công nghệ chắc chắn sẽ lan tỏa đến hầu hết mọi nơi, từ những
ngọn lửa trại đầu tiên đến ngọn lửa của tên lửa Saturn V, từ những bức thư nguệch ngoạc đầu tiên
đến dòng chữ vô tận trên internet. Ưu đãi là áp đảo. Khả năng tích lũy; hiệu quả tăng lên. Sóng
nhận được nhanh hơn và có nhiều hậu quả hơn.
Khả năng tiếp cận công nghệ ngày càng tăng khi nó ngày càng rẻ hơn. Công nghệ ngày càng phát
triển, và với mỗi làn sóng kế tiếp, sự phát triển đó càng tăng tốc và thâm nhập sâu hơn, ngay cả
khi công nghệ ngày càng mạnh mẽ hơn.
Đây là quy luật lịch sử của công nghệ. Khi chúng ta nhìn về phía
tương lai, đây là điều chúng ta có thể mong đợi.
Hay chúng ta có thể?

CHƯƠNG 3
VẤN ĐỀ CHỨNG CHỨA
HIỆU QUẢ TRẢ THÙ
Alan turing và gordon moore không bao giờ có thể dự đoán được, chứ chưa nói
đến việc thay đổi sự phát triển của mạng xã hội, meme, Wikipedia hoặc các cuộc tấn
công mạng. Nhiều thập kỷ sau phát minh của mình, các nhà chế tạo bom nguyên tử
không thể ngăn chặn một cuộc chiến tranh hạt nhân cũng như Henry Ford không thể
ngăn chặn một vụ tai nạn xe hơi. Thách thức không thể tránh khỏi của công nghệ là
các nhà sản xuất nó nhanh chóng mất quyền kiểm soát con đường mà các phát minh của
họ sau khi được giới thiệu ra thế giới.
Công nghệ tồn tại trong một hệ thống phức tạp, năng động (thế giới
thực), trong đó các hệ quả cấp hai, cấp ba và cấp n diễn ra một cách khó
lường. Những gì trên giấy có vẻ hoàn hảo có thể hoạt động khác đi trong
thực tế, đặc biệt là khi được sao chép và điều chỉnh thêm ở phần sau.
Những gì mọi người thực sự làm với phát minh của bạn, dù có mục đích tốt
đến đâu, cũng không bao giờ có thể được đảm bảo. Thomas Edison đã phát
minh ra máy quay đĩa để con người có thể ghi lại suy nghĩ của mình cho
hậu thế và giúp đỡ người mù. Anh ấy kinh hoàng khi hầu hết mọi người
chỉ muốn chơi nhạc. Alfred Nobel dự định chất nổ của ông chỉ được sử
dụng trong khai thác mỏ và xây dựng đường sắt.
Gutenberg chỉ muốn kiếm tiền từ việc in Kinh thánh. Tuy nhiên, báo
chí của ông đã xúc tác cho Cách mạng Khoa học và Cải cách, và do đó
trở thành mối đe dọa lớn nhất đối với Giáo hội Công giáo kể từ khi
thành lập. Các nhà sản xuất tủ lạnh không đặt mục tiêu tạo ra lỗ thủng
tầng ozone bằng chlorofluorocarbon (CFC), giống như những người tạo ra
động cơ đốt trong và động cơ phản lực không hề có ý nghĩ làm tan băng. Trên
thực tế, những người đam mê ô tô ban đầu đã tranh luận về lợi ích môi trường
của chúng: động cơ sẽ loại bỏ những núi phân ngựa lây lan bụi bẩn và bệnh tật
khắp các khu vực thành thị trên đường phố. Họ không có khái niệm về sự nóng
lên toàn cầu.
Hiểu công nghệ một phần là cố gắng hiểu những hậu quả không lường trước
được của nó, để dự đoán không chỉ những tác động lan tỏa tích cực mà còn là
“hiệu ứng trả thù”. Nói một cách đơn giản, bất kỳ công nghệ nào cũng có thể
gặp trục trặc, thường là theo những cách mâu thuẫn trực tiếp với mục đích ban
đầu của nó. Hãy nghĩ xem thuốc opioid theo toa đã tạo ra sự phụ thuộc như thế
nào hoặc việc lạm dụng kháng sinh khiến chúng kém hiệu quả như thế nào hoặc sự
gia tăng của các vệ tinh và mảnh vụn được gọi là “rác vũ trụ” gây nguy hiểm
cho các chuyến bay vũ trụ như thế nào.
Khi công nghệ phát triển, nhiều người có thể sử dụng nó, điều chỉnh nó,
định hình nó theo cách họ muốn, theo chuỗi quan hệ nhân quả vượt quá tầm hiểu
biết của bất kỳ cá nhân nào. Khi sức mạnh của các công cụ của chúng ta tăng
lên theo cấp số nhân và khả năng tiếp cận chúng tăng lên nhanh chóng, thì
những tác hại tiềm tàng cũng tăng theo, một mê cung hậu quả đang mở ra mà
không ai có thể dự đoán hoặc ngăn chặn đầy đủ. Một ngày nọ, ai đó đang viết
phương trình trên bảng đen hoặc loay hoay với một nguyên mẫu trong gara, những
công việc dường như không liên quan đến thế giới rộng lớn hơn. Trong vòng
nhiều thập kỷ, nó đã tạo ra những câu hỏi mang tính hiện sinh cho nhân loại.
Khi chúng ta xây dựng những hệ thống có sức mạnh ngày càng tăng, khía cạnh
công nghệ này ngày càng trở nên cấp bách đối với tôi. Làm thế nào để chúng ta
đảm bảo rằng làn sóng công nghệ mới này mang lại nhiều lợi ích hơn là có hại?
Vấn đề của công nghệ ở đây là vấn đề ngăn chặn. Nếu khía cạnh này không
thể được loại bỏ, nó có thể bị cắt giảm. Ngăn chặn là khả năng bao quát để
kiểm soát, hạn chế và nếu cần, đóng cửa các công nghệ ở bất kỳ giai đoạn phát
triển hoặc triển khai nào của chúng. Nó có nghĩa là, trong một số trường hợp,
khả năng ngăn chặn sự phát triển của một công nghệ ngay từ đầu, kiểm tra những
hậu quả không lường trước được (cả tốt và xấu).

Công nghệ càng mạnh thì càng ăn sâu vào mọi mặt của đời sống và xã hội. Do đó, các
vấn đề của công nghệ có xu hướng leo thang song song với khả năng của nó và do đó nhu
cầu ngăn chặn ngày càng gay gắt theo thời gian.
Liệu điều này có khiến các nhà công nghệ thoát khỏi khó khăn không? Không
có gì; hơn ai hết việc chúng ta phải đối mặt với nó là tùy thuộc vào chúng
ta. Chúng ta có thể không kiểm soát được mục đích cuối cùng của công việc
hoặc những ảnh hưởng lâu dài của nó, nhưng đó không phải là lý do để thoái
thác trách nhiệm. Các quyết định mà các nhà công nghệ và xã hội đưa ra tại
nguồn vẫn có thể định hình kết quả. Chỉ vì hậu quả khó dự đoán không có nghĩa
là chúng ta không nên thử.

Trong hầu hết các trường hợp, ngăn chặn là về việc kiểm soát có ý nghĩa,
khả năng dừng một trường hợp sử dụng, thay đổi hướng nghiên cứu hoặc từ chối
quyền truy cập của các tác nhân gây hại. Điều đó có nghĩa là bảo tồn khả năng
điều khiển sóng để đảm bảo tác động của chúng phản ánh các giá trị của chúng
ta, giúp loài người chúng ta phát triển và không gây ra những tác hại đáng kể
lớn hơn lợi ích của chúng.
Chương này cho thấy điều đó thực sự khó khăn và hiếm đến mức nào.
KIỂM CHỨA LÀ NỀN TẢNG
Đối với nhiều người, từ “ngăn chặn” gợi nhớ đến Chiến tranh Lạnh.
Nhà ngoại giao Mỹ George F. Kennan lập luận rằng “yếu tố chính trong bất kỳ chính sách
nào của Hoa Kỳ đối với Liên Xô phải là sự ngăn chặn lâu dài, kiên nhẫn nhưng kiên
quyết và thận trọng trước các xu hướng bành trướng của Nga”. Kennan cho rằng, coi thế
giới là một chiến trường không ngừng thay đổi, các quốc gia phương Tây phải giám sát
và chống lại sức mạnh của Liên Xô ở bất cứ nơi nào họ tìm thấy, ngăn chặn một cách an
toàn mối đe dọa Đỏ và các xúc tu ý thức hệ của nó trên mọi chiều .
Mặc dù cách đọc về ngăn chặn này cung cấp một số bài học hữu ích nhưng nó
không phù hợp với mục đích của chúng tôi. Công nghệ không phải là kẻ thù; nó là một
thuộc tính cơ bản của xã hội loài người. Việc chứa đựng công nghệ cần phải
là một chương trình cơ bản hơn nhiều, một sự cân bằng quyền lực không phải
giữa các tác nhân cạnh tranh mà giữa con người và các công cụ của chúng ta.
Đó là điều kiện tiên quyết cần thiết cho sự tồn tại của loài người chúng ta
trong thế kỷ tới. Ngăn chặn bao gồm quy định, an toàn kỹ thuật tốt hơn, mô
hình quản trị và quyền sở hữu mới cũng như các phương thức mới về trách
nhiệm giải trình và tính minh bạch, tất cả đều là những tiền đề cần thiết
(nhưng chưa đủ) cho công nghệ an toàn hơn. Đó là một chiếc khóa tổng thể
kết hợp kỹ thuật tiên tiến, các giá trị đạo đức và quy định của chính phủ.
Việc ngăn chặn không nên được coi là câu trả lời cuối cùng cho mọi vấn đề
của công nghệ; đúng hơn đó là bước đầu tiên, quan trọng, là nền tảng để xây
dựng tương lai.
Sau đó, hãy nghĩ về việc ngăn chặn như một tập hợp các cơ chế kỹ thuật,
văn hóa, pháp lý và chính trị được liên kết với nhau và củng cố lẫn nhau để
duy trì sự kiểm soát xã hội đối với công nghệ trong thời kỳ thay đổi theo
cấp số nhân; một kiến trúc có nhiệm vụ chứa đựng những gì đã từng là hàng
thế kỷ hoặc thiên niên kỷ của sự thay đổi công nghệ hiện đang diễn ra trong
vài năm hoặc thậm chí vài tháng, nơi mà hậu quả sẽ lan rộng khắp thế giới
chỉ trong vài giây.
Ngăn chặn kỹ thuật đề cập đến những gì xảy ra trong phòng thí nghiệm
hoặc cơ sở R&D. Ví dụ: trong AI, điều đó có nghĩa là các khoảng trống không
khí, hộp cát, mô phỏng, công tắc tắt, các biện pháp an toàn và bảo mật tích
hợp cứng — các giao thức để xác minh tính an toàn hoặc tính toàn vẹn hoặc
tính chất không thỏa hiệp của hệ thống và đưa nó vào chế độ ngoại tuyến nếu
cần. Sau đó là các giá trị và văn hóa xung quanh việc sáng tạo và phổ biến
nhằm hỗ trợ các ranh giới, các lớp quản trị, chấp nhận các giới hạn, cảnh
giác trước những tác hại và những hậu quả không lường trước được. Cuối
cùng, ngăn chặn bao gồm cả cơ chế pháp lý quốc gia và quốc tế để ngăn chặn:
các quy định được thông qua bởi các cơ quan lập pháp quốc gia và các hiệp
ước hoạt động thông qua Liên hợp quốc và các cơ quan toàn cầu khác. Công
nghệ luôn bị cuốn sâu vào luật pháp và phong tục tập quán, chuẩn mực và
thói quen, cơ cấu quyền lực và tri thức của bất kỳ xã hội nào; mỗi thứ đều
phải được giải quyết. Chúng ta sẽ quay lại vấn đề này chi tiết hơn ở phần 4.
Hiện tại, bạn có thể đang tự hỏi, chúng ta đã bao giờ thực sự cố gắng
cái này, cố gắng ngăn chặn một làn sóng?
CHÚNG TÔI ĐÃ BAO GIỜ NÓI KHÔNG?
Khi máy in rầm rộ khắp châu Âu vào thế kỷ 15, Đế chế Ottoman đã có phản ứng khá khác
biệt. Nó đã cố gắng cấm nó.
Không hài lòng trước viễn cảnh sản xuất hàng loạt kiến thức và văn hóa không được kiểm
soát, vị vua này coi báo chí là một sự đổi mới “phương Tây” xa lạ. Mặc dù có dân số
cạnh tranh với các thành phố như London, Paris và Rome, Istanbul không có máy in được
phê duyệt cho đến năm 1727, gần ba thế kỷ sau khi phát minh ra nó. Trong một thời gian
dài, các nhà sử học coi cuộc kháng chiến của Đế chế Ottoman là một ví dụ điển hình của
chủ nghĩa dân tộc công nghệ thời kỳ đầu, một sự bác bỏ hiện đại một cách có ý thức và
lạc hậu.
Nhưng nó phức tạp hơn thế. Theo quy định của đế quốc, chỉ có các ký tự tiếng Ả Rập
bị cấm, không được in hoàn toàn. Hơn cả một số quan điểm phản công nghệ cơ bản, lệnh
cấm xuất phát từ chi phí khổng lồ và sự phức tạp của việc vận hành các máy in bằng tiếng
Ả Rập; chỉ có quốc vương mới có đủ khả năng tài trợ cho việc in ấn, và các quốc vương
kế nhiệm không mấy quan tâm đến việc đó. Thế là báo chí Ottoman bị đình trệ; đã có lúc
đế chế nói không, cảm ơn bạn. Nhưng cuối cùng, cũng giống như mọi nơi khác, việc in ấn
đã trở thành một thực tế cuộc sống ở Đế chế Ottoman, ở các quốc gia hậu duệ của nó và
thậm chí trên toàn thế giới.
Có vẻ như các quốc gia có thể nói không, nhưng khi mọi thứ ngày càng rẻ hơn và được sử
dụng rộng rãi hơn, họ không thể nói không mãi mãi.
Nhìn lại, sóng có thể có vẻ êm ả và không thể tránh khỏi. Nhưng có vô số yếu tố
nhỏ, cục bộ và thường tùy ý ảnh hưởng đến quỹ đạo của công nghệ. Quả thực, không ai có
thể tưởng tượng việc khuếch tán là dễ dàng. Nó có thể tốn kém, chậm và rủi ro hoặc đòi
hỏi những thay đổi sâu sắc về hành vi chỉ khả thi trong nhiều thập kỷ hoặc nhiều đời.
Nó phải đấu tranh chống lại những lợi ích hiện có, những kiến thức đã được thiết lập,
và những người ghen tị nắm giữ cả hai. Sự sợ hãi và nghi ngờ về bất cứ điều gì
mới và khác biệt là đặc hữu. Tất cả mọi người từ hội thợ thủ công lành nghề
cho đến các vị vua đáng ngờ đều có lý do để phản đối.
Luddites, những nhóm phản đối kịch liệt các kỹ thuật công nghiệp, cũng không
phải là ngoại lệ trước sự xuất hiện của các công nghệ mới; họ là
chuẩn mực.
Vào thời trung cổ, Giáo hoàng Urban II muốn cấm nỏ.
Nữ hoàng Elizabeth I đã loại bỏ một loại máy dệt kim mới vào cuối thế kỷ 16
với lý do nó có thể khiến các hiệp hội khó chịu. Các phường hội quấy rối, đập
phá các loại máy dệt, máy tiện mới ở
Nuremberg, Danzig, Hà Lan và Anh. John Kay, người phát minh ra tàu con thoi
bay, giúp việc dệt vải trở nên hiệu quả hơn và là một trong những công nghệ
then chốt của Cách mạng Công nghiệp, lo sợ bị trả thù bằng bạo lực nên đã trốn
từ Anh sang Pháp.
Con người trong suốt lịch sử đã cố gắng chống lại các công nghệ mới vì họ
cảm thấy bị đe dọa và lo lắng sinh kế cũng như lối sống của mình sẽ bị phá hủy.
Chiến đấu, như họ đã thấy, vì tương lai của gia đình họ, nếu cần thiết, họ sẽ
tiêu diệt những gì sắp xảy ra. Nếu các biện pháp hòa bình thất bại, Luddites
muốn dẹp tan làn sóng máy móc công nghiệp.
Dưới thời Mạc phủ Tokugawa thế kỷ 17, Nhật Bản đã đóng cửa thế giới – và
nói rộng ra là những phát minh man rợ của mình – trong gần ba trăm năm. Giống
như hầu hết các xã hội trong suốt lịch sử, nó không tin tưởng vào cái mới, cái
khác biệt và cái đột phá. Tương tự như vậy, Trung Quốc đã bác bỏ sứ mệnh ngoại
giao của Anh và lời đề nghị tiếp cận công nghệ phương Tây vào cuối thế kỷ 18,
khi hoàng đế Càn Long lập luận: “Đế quốc Thiên thể của chúng ta sở hữu tất cả
mọi thứ một cách dồi dào và không thiếu sản phẩm nào trong biên giới của mình.
Do đó không cần thiết phải nhập khẩu hàng sản xuất của những kẻ man rợ bên
ngoài.”
Không có cái nào trong số đó hoạt động. Chiếc nỏ vẫn tồn tại cho đến khi
bị súng chiếm đoạt. Máy dệt kim của Nữ hoàng Elizabeth đã quay trở lại, nhiều
thế kỷ sau, dưới dạng máy dệt cơ khí quy mô lớn được tăng áp để châm ngòi cho
cuộc Cách mạng Công nghiệp. Trung Quốc và Nhật Bản ngày nay nằm trong số những nước
những nơi có công nghệ tiên tiến và hội nhập toàn cầu trên trái đất.
Những người Luddite không thành công hơn trong việc ngăn chặn các công nghệ
công nghiệp mới so với những người chủ ngựa và nhà sản xuất xe ngựa trong việc
ngăn chặn ô tô. Ở đâu có nhu cầu, công nghệ luôn bùng nổ, tìm ra lực kéo, xây
dựng người dùng.
Một khi đã hình thành, sóng gần như không thể dừng lại. Như người Ottoman
đã phát hiện ra khi nói đến in ấn, sự phản kháng có xu hướng giảm dần theo
thời gian. Bản chất của công nghệ là lan tỏa, bất kể rào cản.
Rất nhiều công nghệ đến và đi. Bạn không nhìn thấy quá nhiều đồng xu hay
Segways, hãy nghe nhiều băng cassette hoặc đĩa mini.
Nhưng điều đó không có nghĩa là khả năng di chuyển cá nhân và âm nhạc không
phổ biến; các công nghệ cũ vừa được thay thế bằng các hình thức mới, hiệu quả
hơn. Chúng ta không đi trên tàu hơi nước hay viết trên máy đánh chữ, nhưng sự
hiện diện ma quái của chúng vẫn tồn tại trong những thế hệ kế nhiệm, như
Shinkansens và MacBook.
Hãy nghĩ xem, như một phần của các làn sóng liên tiếp, lửa, sau đó là nến
và đèn dầu, nhường chỗ cho đèn gas, sau đó là bóng đèn điện, và bây giờ là đèn
LED, và tổng lượng ánh sáng nhân tạo tăng lên ngay cả khi các công nghệ cơ bản
thay đổi. Công nghệ mới thay thế nhiều công nghệ trước đó. Giống như điện đã
thực hiện công việc của nến và động cơ hơi nước, điện thoại thông minh đã thay
thế vệ tinh, máy ảnh, PDA, máy tính và điện thoại (và phát minh ra các loại
trải nghiệm hoàn toàn mới: ứng dụng). Khi công nghệ cho phép bạn làm được nhiều
hơn với chi phí ít hơn, sức hấp dẫn của chúng chỉ tăng lên cùng với việc chúng
được áp dụng.
Hãy tưởng tượng bạn đang cố gắng xây dựng một xã hội đương đại không có
điện, nước sinh hoạt hay thuốc men. Ngay cả nếu bạn có thể, làm thế nào bạn có
thể thuyết phục được bất cứ ai rằng đó là một giao dịch đáng giá, đáng mơ ước
và tử tế? Rất ít xã hội từng tự mình thoát khỏi giới hạn công nghệ một cách
thành công; làm như vậy thường là một phần của sự sụp đổ hoặc kết tủa một sự
sụp đổ. Không có cách thực tế nào để rút lui.
Các phát minh không thể không được phát minh hoặc bị chặn vô thời hạn, kiến
thức không thể không được học hỏi hoặc bị ngừng lan truyền. Lịch sử rải rác
các ví dụ đưa ra rất ít lý do để nghĩ rằng điều đó có thể xảy ra lần nữa. Thư
viện Alexandria bị bỏ hoang và cuối cùng bị thiêu rụi, hàng loạt kiến thức cổ
điển bị mất đi vĩnh viễn. Nhưng cuối cùng sự khôn ngoan của thời cổ đại đã
được khám phá lại và đánh giá lại. Được hỗ trợ bởi sự thiếu hụt các công cụ
truyền thông hiện đại, Trung Quốc đã giữ bí mật về nghề dệt lụa trong nhiều
thế kỷ, nhưng cuối cùng nó đã bị lộ ra nhờ hai nhà sư Nestorian đầy quyết tâm
vào năm 552 CN. Công nghệ là ý tưởng và ý tưởng không thể bị loại bỏ.
Công nghệ là một củ cà rốt luôn treo lủng lẳng, luôn hứa hẹn nhiều hơn,
tốt hơn, dễ dàng hơn, rẻ hơn. Sự khao khát phát minh của chúng tôi là vô độ.
Sự xuất hiện dường như không thể tránh khỏi của sóng không phải do không có
lực cản mà do nhu cầu áp đảo nó. Mọi người thường nói không, mong muốn có công
nghệ chứa đựng vì rất nhiều lý do. Nó chưa bao giờ là đủ. Không phải vấn đề
ngăn chặn chưa được ghi nhận trong lịch sử; chỉ là nó chưa bao giờ được giải
quyết.
Có ngoại lệ không? Hay sóng luôn vỡ
ở khắp mọi nơi, cuối cùng?
NGOẠI LỆ HẠT NHÂN?
Vào ngày 11 tháng 9 năm 1933, nhà vật lý Ernest Rutherford đã lập luận
với Hiệp hội vì sự tiến bộ của khoa học Anh ở Leicester rằng “bất cứ ai
nói rằng với những phương tiện hiện tại mà chúng ta sử dụng và với kiến
thức hiện tại của chúng ta, chúng ta có thể sử dụng năng lượng nguyên tử
đều đang nói dối. ” Đọc bản tường trình về lập luận của Rutherford tại
một khách sạn ở London, người nhập cư Hungary Leo Szilard đã nghiền ngẫm
nó trong bữa sáng. Anh ấy đã đi dạo. Một ngày sau khi Rutherford gọi nó
là ánh trăng, Szilard đã nảy ra ý tưởng về phản ứng dây chuyền hạt nhân.
Vụ nổ hạt nhân đầu tiên xảy ra chỉ 12 năm sau đó. Vào ngày 16 tháng 7 năm
1945, dưới sự bảo trợ của Dự án Manhattan, Hoa Kỳ
Quân đội cho nổ một thiết bị có mật danh Trinity ở sa mạc New Mexico. Vài tuần
sau, chiếc Boeing B-29 Superfortress, chiếc Enola Gay,

đã thả một thiết bị có mật danh Little Boy chứa 64 kg uranium-235 xuống
thành phố Hiroshima, khiến 140.000 người thiệt mạng. Trong chốc lát, thế
giới đã thay đổi. Tuy nhiên, từ đó, trái ngược với khuôn mẫu rộng lớn
hơn của lịch sử, vũ khí hạt nhân không ngừng phổ biến.
Vũ khí hạt nhân chỉ được kích nổ hai lần trong thời chiến. Cho đến
nay chỉ có chín quốc gia đã mua được chúng. Thật vậy, Nam Phi đã từ bỏ
hoàn toàn công nghệ này vào năm 1989. Theo như chúng tôi biết, không có
tổ chức phi nhà nước nào sở hữu vũ khí hạt nhân, và ngày nay tổng số đầu
đạn là khoảng 10 nghìn đầu đạn, lớn đến mức đáng sợ, nhưng thấp hơn mức
cao nhất trong Chiến tranh Lạnh. khi con số đó dao động ở mức hơn sáu
mươi nghìn.
Vậy chuyện gì đã xảy ra? Vũ khí hạt nhân rõ ràng mang lại lợi thế
chiến lược đáng kể. Vào cuối Thế chiến thứ hai, nhiều người không ngạc
nhiên khi cho rằng chúng sẽ sinh sôi nảy nở rộng rãi. Sau khi phát triển
thành công các loại bom hạt nhân thời kỳ đầu, Mỹ và Nga đang trên con
đường phát triển các loại vũ khí có sức tàn phá lớn hơn bao giờ hết, như
bom hydro nhiệt hạch. Vụ nổ lớn nhất từng được ghi nhận là vụ thử bom H
có tên Tsar Bomba. Được kích nổ trên một quần đảo xa xôi ở Biển Barents
vào năm 1961, vụ nổ đã tạo ra một quả cầu lửa dài 3 dặm và một đám mây
hình nấm rộng 59 dặm. Vụ nổ mạnh gấp 10 lần tổng cộng tất cả các loại
thuốc nổ thông thường được triển khai trong Thế chiến thứ hai. Quy mô
của nó khiến mọi người sợ hãi. Về mặt này, nó có thể thực sự đã giúp ích.
Cả Hoa Kỳ và Nga đều lùi bước trong việc tăng cường vũ khí trước sức
mạnh khủng khiếp và tuyệt đối của họ.
Việc công nghệ hạt nhân được duy trì không phải là ngẫu nhiên; đó là
một chính sách không phổ biến vũ khí hạt nhân có chủ ý của các cường
quốc hạt nhân, được hỗ trợ bởi thực tế là việc sản xuất vũ khí hạt nhân
cực kỳ phức tạp và tốn kém.
Một số đề xuất ban đầu nhằm đạt được mục tiêu ngăn chặn có tính chất
cao siêu đáng ngưỡng mộ. Năm 1946, Báo cáo Acheson-Lilienthal đề nghị
Liên Hiệp Quốc thành lập một “Cơ quan Phát triển Nguyên tử” với
kiểm soát rõ ràng trên toàn thế giới đối với tất cả các hoạt động hạt nhân. Điều đó
tất nhiên đã không xảy ra, nhưng vẫn có một loạt điều ước quốc tế được ký kết sau
đó. Mặc dù các quốc gia như Trung Quốc và Pháp đứng sang một bên, Hiệp ước cấm thử
nghiệm từng phần đã được ký kết vào năm 1963, làm giảm tiếng trống của các vụ nổ
thử nghiệm thúc đẩy cạnh tranh.
Một bước ngoặt xảy ra vào năm 1968 với Hiệp ước Không phổ biến vũ khí hạt nhân,
một thời điểm mang tính bước ngoặt khi các quốc gia đồng ý rõ ràng không bao giờ
phát triển vũ khí hạt nhân. Thế giới đã cùng nhau kiên quyết ngăn chặn việc phổ
biến vũ khí hạt nhân sang các quốc gia mới. Ngay từ lần thử nghiệm đầu tiên, sức
công phá của chúng đã lộ rõ. Sự phản đối của người dân trước khả năng xảy ra ngày
tận thế nhiệt hạch là động lực mạnh mẽ để ký kết hiệp ước. Nhưng những vũ khí này
cũng đã bị ngăn chặn bởi sự tính toán lạnh lùng. Sự hủy diệt được đảm bảo lẫn nhau
bao quanh những người sở hữu vì người ta sớm thấy rõ rằng sử dụng họ trong cơn tức
giận là một cách nhanh chóng để đảm bảo sự hủy diệt của chính bạn.
Chúng cũng rất đắt tiền và khó sản xuất. Chúng không chỉ yêu cầu những vật liệu
hiếm và khó xử lý như uranium-235 đã được làm giàu, mà việc duy trì và cuối cùng là
ngừng hoạt động chúng cũng là một thách thức. Thiếu nhu cầu rộng rãi đồng nghĩa với
việc có ít áp lực giảm chi phí và tăng khả năng tiếp cận; chúng không phụ thuộc vào
đường cong chi phí cổ điển của công nghệ tiêu dùng hiện đại. Những thứ này sẽ không
bao giờ lan rộng như bóng bán dẫn hoặc TV màn hình phẳng; sản xuất vật liệu phân
hạch không giống như cán nhôm.
Không phổ biến vũ khí hạt nhân một phần không nhỏ là do thực tế rằng việc chế tạo
vũ khí hạt nhân là một trong những nỗ lực lớn nhất, tốn kém nhất và phức tạp nhất
mà một quốc gia có thể bắt tay vào thực hiện.
Sẽ là sai lầm nếu nói rằng chúng chưa phổ biến vũ khí hạt nhân, khi ngay cả
hiện nay có rất nhiều vũ khí hạt nhân nằm trên các tàu ngầm tuần tra trên biển hoặc
đang trong tình trạng báo động khẩn cấp trong các hầm chứa lớn. Nhưng ở một mức độ
đáng chú ý, và nhờ vào nhiều nỗ lực chính trị và kỹ thuật trong nhiều thập kỷ, họ
đã tránh được mô hình cơ bản sâu sắc của công nghệ.

Chưa hết, mặc dù khả năng hạt nhân phần lớn đã được hạn chế, ngoại lệ một
phần, nhưng đó không phải là một câu chuyện đáng yên tâm. Lịch sử hạt nhân vẫn
là một chuỗi những vụ tai nạn, suýt va chạm và hiểu lầm đáng sợ. Kể từ cuộc thử
nghiệm đầu tiên vào năm 1945, hàng trăm sự cố đáng quan ngại sâu sắc, từ các vấn
đề quy trình tương đối nhỏ cho đến sự leo thang đáng sợ có thể (và vẫn có thể)
gây ra sự hủy diệt ở quy mô thực sự khủng khiếp.
Thất bại có thể đến dưới nhiều hình thức khác nhau. Nếu phần mềm gặp trục
trặc thì sao? Suy cho cùng, chỉ đến năm 2019, hệ thống chỉ huy và kiểm soát của
Mỹ mới được nâng cấp từ phần cứng và đĩa mềm 8 inch của những năm 1970. Kho vũ
khí hủy diệt và tinh vi nhất thế giới chạy trên công nghệ lỗi thời đến mức hầu
hết mọi người còn sống ngày nay đều không thể nhận ra (và không thể sử dụng được).
Tai nạn là quân đoàn. Ví dụ, vào năm 1961, một chiếc B-52 trên bầu trời Bắc
Carolina đã bị rò rỉ nhiên liệu. Phi hành đoàn đã nhảy ra khỏi chiếc máy bay ốm
yếu, khiến nó và trọng tải của nó lao thẳng xuống đất.
Trong quá trình này, công tắc an toàn của một quả bom khinh khí sống động chuyển
sang trạng thái “được trang bị vũ khí” khi nó lao xuống cánh đồng. Trong số bốn
cơ chế an toàn của nó, chỉ có một cơ chế được giữ nguyên và vụ nổ đã tránh được
một cách thần kỳ. Năm 2003, Bộ Quốc phòng Anh tiết lộ hơn 110 vụ suýt va chạm và
tai nạn trong lịch sử chương trình vũ khí hạt nhân của nước này.
Ngay cả Điện Kremlin, vốn không phải là một hình mẫu cởi mở, cũng đã thừa nhận
15 vụ tai nạn hạt nhân nghiêm trọng từ năm 2000 đến năm 2010.
Những trục trặc phần cứng nhỏ có thể gây ra rủi ro quá lớn. Năm 1980, một
con chip máy tính bị lỗi trị giá 46 xu gần như đã gây ra một sự cố hạt nhân lớn
trên Thái Bình Dương. Và có lẽ trong trường hợp nổi tiếng nhất, thảm họa hạt
nhân chỉ tránh được trong cuộc khủng hoảng tên lửa Cuba khi một người, quyền
Thiếu tướng Nga, Vasili Arkhipov, từ chối ra lệnh bắn ngư lôi hạt nhân.
Hai sĩ quan khác trên tàu ngầm, tin chắc rằng họ đang bị tấn công, đã đưa thế
giới đến trong vòng một tích tắc của một cuộc chiến tranh hạt nhân toàn diện.
Những lo lắng vẫn còn rất nhiều. Những lưỡi dao hạt nhân lại vang lên sau cuộc
xâm lược Ukraine của Nga. Bắc Triều Tiên đã tới
lâu dài để có được vũ khí hạt nhân và dường như đã bán tên lửa đạn đạo và đồng phát
triển công nghệ hạt nhân với các nước như Iran và Syria. Trung Quốc, Ấn Độ và
Pakistan đang tăng cường kho vũ khí và có hồ sơ an toàn không rõ ràng. Tất cả mọi
người từ Thổ Nhĩ Kỳ và Ả Rập Saudi đến Nhật Bản và Hàn Quốc ít nhất đều bày tỏ sự
quan tâm đến vũ khí hạt nhân. Brazil và Argentina thậm chí còn có chương trình làm
giàu uranium.
Cho đến nay, không có nhóm khủng bố nào được biết là đã có được đầu đạn thông
thường hoặc đủ vật liệu phóng xạ để tạo ra một quả bom “bẩn”. Nhưng phương pháp chế
tạo một thiết bị như vậy hầu như không có gì bí mật. Một người trong cuộc lừa đảo có
thể tạo ra một cách đáng tin cậy. Kỹ sư AQ Khan đã giúp Pakistan phát triển vũ khí
hạt nhân bằng cách đánh cắp bản thiết kế máy ly tâm và trốn khỏi Hà Lan.
Rất nhiều vật liệu hạt nhân chưa được thống kê, từ các bệnh viện, doanh nghiệp,
quân đội, thậm chí gần đây là từ Chernobyl. Năm 2018, plutonium và Caesium đã bị
đánh cắp từ xe của một quan chức Bộ Năng lượng ở San Antonio, Texas, khi họ đang ngủ
ở một khách sạn gần đó.
Kịch bản ác mộng là một đầu đạn bị lỏng, bị đánh cắp trong quá trình vận chuyển hoặc
thậm chí bị bỏ sót bằng cách nào đó trong một bài tập kế toán. Nghe có vẻ huyền ảo
nhưng thực tế Mỹ đã mất ít nhất 3 vũ khí hạt nhân.
Hạt nhân là một ngoại lệ đối với sự lan rộng không thể ngăn cản của công nghệ,
nhưng chỉ vì chi phí khổng lồ và sự phức tạp liên quan, hàng thập kỷ nỗ lực đa phương
khó khăn, tiềm năng gây chết người to lớn của nó và sự may mắn thuần túy. Ở một mức
độ nào đó, nó có thể đã đi ngược lại xu hướng chung, nhưng nó cũng cho thấy trò chơi
đã thay đổi như thế nào. Với những hậu quả tiềm tàng, với phạm vi tồn tại sắp xảy ra
của nó, việc ngăn chặn tương đối, thậm chí một phần là không đủ.
Sự thật đáng lo ngại của công nghệ đáng sợ này là loài người đã cố gắng nói không
và chỉ thành công một phần. Vũ khí hạt nhân là một trong những công nghệ được kiểm
soát chặt chẽ nhất trong lịch sử, tuy nhiên

vấn đề ngăn chặn—theo nghĩa đen nhất, khó khăn nhất—ngay cả ở đây vẫn chưa
được giải quyết triệt để.
ĐỘNG VẬT CÔNG NGHỆ
Những thoáng qua về sự ngăn chặn là rất hiếm và thường có sai sót. Chúng bao
gồm các lệnh cấm sử dụng vũ khí sinh học và hóa học; Nghị định thư Montreal
năm 1987, loại bỏ dần các chất gây tổn hại tầng ozone của khí quyển, đặc biệt
là CFC; lệnh cấm của EU đối với sinh vật biến đổi gen trong thực phẩm; và lệnh
cấm tự tổ chức chỉnh sửa gen người. Có lẽ chương trình nghị sự ngăn chặn đầy
tham vọng nhất là khử cacbon, các biện pháp như Thỏa thuận Paris, nhằm hạn chế
nhiệt độ toàn cầu tăng lên 2 độ C. Về bản chất, nó thể hiện nỗ lực trên toàn
thế giới nhằm nói không với một bộ công nghệ nền tảng.
Chúng ta sẽ xem xét kỹ hơn các ví dụ hiện đại về ngăn chặn này trong phần
4. Tuy nhiên, hiện tại, điều quan trọng cần lưu ý là, mặc dù mang tính hướng
dẫn nhưng không có thành tựu nào trong số này đặc biệt mạnh mẽ.
Vũ khí hóa học gần đây đã được sử dụng ở Syria. Những loại vũ khí như vậy
chỉ là một ứng dụng tương đối hẹp trong các lĩnh vực không ngừng phát triển.
Bất chấp lệnh cấm, khả năng hóa học và sinh học của thế giới vẫn tăng lên hàng
năm; nếu bất cứ ai nhận thấy cần phải vũ khí hóa chúng, việc đó sẽ dễ dàng hơn
bao giờ hết.
Trong khi EU cấm GMO trong việc cung cấp thực phẩm, chúng vẫn phổ biến ở
các nơi khác trên thế giới. Như chúng ta sẽ thấy, khoa học đằng sau việc chỉnh
sửa gen đang tiến triển nhanh chóng. Lời kêu gọi tạm dừng toàn cầu về chỉnh
sửa gen người đã bị đình trệ. May mắn thay, đã có sẵn các giải pháp thay thế
rẻ hơn và hiệu quả hơn để thay thế CFC, mà trong mọi trường hợp khó có thể là
công nghệ có mục đích chung. Nếu không có chúng, mô hình hóa cho thấy tầng
ozone có thể sụp đổ vào những năm 2040, tạo ra thêm 1,7 độ C nóng lên trong
thế kỷ 21. Nói chung những nỗ lực ngăn chặn này bị hạn chế
đến các công nghệ có tính đặc thù cao, một số ở các khu vực pháp lý hẹp, tất cả đều chỉ
có giao dịch mua không ổn định.
Mặc dù Thỏa thuận Paris nhằm mục đích vượt qua những hạn chế này nhưng
liệu nó có hiệu quả không? Chúng ta phải hy vọng như vậy. Nhưng cần phải chỉ
ra rằng biện pháp ngăn chặn này chỉ diễn ra sau khi có thiệt hại đáng kể và
mối đe dọa ở cấp độ hiện hữu ngày càng rõ ràng hơn. Nó đến muộn và thành công
của nó không được đảm bảo.
Đây không phải là cách ngăn chặn thích hợp. Không có nỗ lực nào trong số
này thể hiện việc ngăn chặn toàn diện làn sóng công nghệ có mục đích chung,
mặc dù, như chúng ta sẽ thấy sau, chúng đưa ra những gợi ý quan trọng cho
tương lai. Nhưng những ví dụ này không mang lại nhiều sự thoải mái như chúng
ta mong đợi—hoặc cần.
luôn có những lý do chính đáng để phản đối hoặc hạn chế công nghệ.
Mặc dù lịch sử của nó là lịch sử cho phép con người làm được nhiều việc hơn,
nâng cao khả năng, thúc đẩy cải thiện phúc lợi, nhưng đó không phải là câu
chuyện một chiều: Công nghệ tạo ra nhiều vũ khí sát thương và hủy diệt hơn
cũng như những công cụ tốt hơn. Nó tạo ra những kẻ thua cuộc, loại bỏ một số
công việc và lối sống, đồng thời gây ra tác hại đến quy mô hiện hữu của hành
tinh về biến đổi khí hậu. Các công nghệ mới có thể gây bất ổn và bất ổn, xa
lạ và xâm lấn. Công nghệ gây ra nhiều vấn đề và luôn luôn như vậy.
Và dường như không có điều nào trong số đó quan trọng. Có thể mất thời
gian, nhưng mô hình này không thể nhầm lẫn: các công nghệ phổ biến rộng rãi,
rẻ hơn và hiệu quả hơn, tiếp nối làn sóng của chúng. Miễn là một công nghệ
hữu ích, được mong muốn, giá cả phải chăng, dễ tiếp cận và vượt trội, nó sẽ
tồn tại và lan rộng và những tính năng đó sẽ kết hợp với nhau. Mặc dù công
nghệ không cho chúng ta biết khi nào, bằng cách nào hoặc có nên bước qua
những cánh cửa nó mở ra hay không, nhưng sớm hay muộn chúng ta dường như cũng bước qua chún
Không có mối quan hệ tất yếu nào ở đây, chỉ là một mối liên kết thực nghiệm
bền bỉ trong suốt lịch sử.
Mọi thứ về một công nghệ nhất định đều mang tính ngẫu nhiên, phụ thuộc
vào con đường; nó dựa trên một tập hợp hoàn cảnh phức tạp đến khó hiểu, những
sự kiện tình cờ xảy ra, vô số yếu tố địa phương, văn hóa, thể chế và kinh tế
cụ thể. Hãy phóng to lên và thấy những cuộc gặp gỡ may mắn, những sự kiện
ngẫu nhiên, những đặc điểm kỳ quặc và những hành động sáng tạo nhỏ bé—và đôi
khi là những phản hồi—tỏ ra rất lớn. Nhưng thu nhỏ lại và chúng ta thấy gì?
Một quá trình kiến tạo hơn, trong đó vấn đề không phải là liệu những sức mạnh
này có được khai thác hay không mà là khi nào, dưới hình thức nào và bởi ai.
Do cực kỳ hiếm nên việc ngăn chặn đã bị loại bỏ khỏi vốn từ vựng của các
nhà công nghệ và nhà hoạch định chính sách. Chúng ta cùng nhau cam chịu câu
chuyện của chương này vì nó đã ăn sâu vào tâm trí. Nhìn chung, chúng ta đã để
sóng cuốn trôi chúng ta, quản lý trên cơ sở không phối hợp, đặc biệt, chấp
nhận rằng khả năng lan rộng một cách tất yếu và không thể kiểm soát được, dù
được hoan nghênh hay chê bai, là một thực tế của cuộc sống.
Trong khoảng thời gian khoảng một trăm năm, những đợt sóng liên tiếp đã
đưa loài người từ thời kỳ của nến và xe ngựa trở thành một trong những nhà
máy điện và trạm vũ trụ. Điều gì đó tương tự sẽ xảy ra trong ba mươi năm tới.
Trong những thập kỷ tới, một làn sóng công nghệ mới sẽ buộc chúng ta phải đối
mặt với những câu hỏi cơ bản nhất mà loài người chúng ta từng đối mặt. Chúng
ta có muốn chỉnh sửa bộ gen của mình để một số người trong chúng ta có thể
sinh ra những đứa con miễn dịch với một số bệnh nhất định, hoặc thông minh
hơn hoặc có khả năng sống lâu hơn không? Chúng ta có cam kết giữ vững vị trí
của mình trên đỉnh kim tự tháp tiến hóa hay chúng ta sẽ cho phép xuất hiện
các hệ thống AI thông minh hơn và có nhiều khả năng hơn chúng ta có thể có?
Những hậu quả không lường trước được của việc khám phá những câu hỏi như thế
này là gì?
Chúng minh họa một sự thật quan trọng về Homo technologicus trong thế kỷ
XXI. Trong phần lớn lịch sử, thách thức của công nghệ nằm ở việc tạo ra và
giải phóng sức mạnh của nó. Điều đó giờ đã đảo ngược: thách thức của công
nghệ ngày nay là kiềm chế sức mạnh được giải phóng của nó, đảm bảo nó tiếp
tục phục vụ chúng ta và hành tinh của chúng ta.
Thách thức đó sắp leo thang một cách dứt khoát.
PHẦN II
CÁC
LÀN SÓNG TIẾP THEO
CHƯƠNG 4
CÔNG NGHỆ CỦA
SỰ THÔNG MINH
CHÀO MỪNG BẠN ĐẾN VỚI MÁY
Tôi sẽ không bao giờ quên khoảnh khắc AI trở thành hiện thực đối với tôi. Không phải một
điểm đang nói hoặc một tham vọng kỹ thuật, nhưng là một thực tế.
Chuyện xảy ra tại văn phòng đầu tiên của DeepMind ở Bloomsbury, London vào một
ngày năm 2012. Sau khi thành lập công ty và đảm bảo nguồn tài trợ ban đầu, chúng
tôi đã dành vài năm ở chế độ bí mật, tập trung vào nghiên cứu và kỹ thuật xây dựng
AGI, hay trí tuệ nhân tạo nói chung. Từ “chung” trong AGI đề cập đến phạm vi rộng
dự định của công nghệ; chúng tôi muốn xây dựng các tác nhân học tập thực sự tổng
quát có thể vượt quá hiệu suất của con người trong hầu hết các nhiệm vụ nhận thức.
Cách tiếp cận thầm lặng của chúng tôi đã thay đổi với việc tạo ra một thuật toán
có tên DQN, viết tắt của Deep Q-Network. Các thành viên của nhóm đã huấn luyện DQN
chơi nhiều trò chơi Atari cổ điển, hay cụ thể hơn là chúng tôi đã huấn luyện nó để
tự học cách chơi các trò chơi. Yếu tố tự học này là điểm khác biệt chính trong hệ
thống của chúng tôi so với những nỗ lực trước đây và là dấu hiệu đầu tiên cho thấy
chúng tôi có thể đạt được mục tiêu cuối cùng của mình.
Lúc đầu DQN dở tệ, tưởng chừng như không học được gì cả. Nhưng sau đó, vào buổi
chiều mùa thu năm 2012 đó, một nhóm nhỏ chúng tôi tại DeepMind đã tụ tập quanh một
chiếc máy để xem các bản phát lại quá trình đào tạo của thuật toán khi nó học trò
chơi Breakout. Trong Breakout, người chơi điều khiển một mái chèo ở cuối màn hình,
trong đó nảy một quả bóng lên xuống để đánh bật các hàng gạch màu. Bạn
càng phá hủy được nhiều viên gạch thì điểm của bạn càng cao. Nhóm của
chúng tôi đã cung cấp cho DQN không gì khác ngoài các pixel thô, từng
khung hình và điểm số để tìm hiểu mối quan hệ giữa các pixel và các
hành động điều khiển khi di chuyển mái chèo sang trái và phải. Lúc
đầu, thuật toán tiến triển bằng cách khám phá ngẫu nhiên không gian
khả năng cho đến khi nó tình cờ tìm được một hành động bổ ích. Qua
thử và sai, nó đã học được cách điều khiển mái chèo, tung bóng qua
lại và đập từng viên gạch. Những thứ ấn tượng.
Sau đó một điều đáng chú ý đã xảy ra. DQN dường như đã khám phá ra
một chiến lược mới và rất thông minh. Thay vì chỉ đập từng viên gạch
một cách đều đặn, DQN bắt đầu nhắm tới một cột gạch duy nhất. Kết quả
là việc tạo ra một con đường hiệu quả dẫn tới phía sau khối gạch. DQN
đã đào hầm đến tận đỉnh, tạo ra một đường dẫn để quả bóng có thể bật
ra khỏi bức tường phía sau một cách đều đặn, phá hủy toàn bộ bộ gạch
giống như một quả bóng điên cuồng trong máy bắn bi. Phương pháp này
đạt được số điểm tối đa với nỗ lực tối thiểu. Đó là một chiến thuật
kỳ lạ, không hề xa lạ với những game thủ nghiêm túc nhưng cũng không
hề rõ ràng. Chúng tôi đã quan sát thuật toán tự dạy mình điều gì đó
mới mẻ. Tôi choáng váng.
Lần đầu tiên tôi chứng kiến một hệ thống rất đơn giản, rất tinh tế
có thể học được những kiến thức có giá trị, được cho là một chiến lược
mà nhiều người không rõ ràng. Đó là một khoảnh khắc đáng kinh ngạc,
một bước đột phá trong đó tác nhân AI thể hiện dấu hiệu sớm rằng nó
có thể khám phá kiến thức mới.
DQN đã có một khởi đầu khó khăn, nhưng sau vài tháng mày mò, thuật
toán đã đạt đến mức hiệu suất siêu phàm.
Loại kết quả này là lý do chúng tôi bắt đầu DeepMind. Đây là lời hứa
của AI. Nếu AI có thể khám phá ra một chiến lược thông minh như đào
hầm, nó còn có thể học được gì nữa? Liệu chúng ta có thể khai thác sức
mạnh mới này để trang bị cho loài người những kiến thức, phát minh và
công nghệ mới nhằm giúp giải quyết những vấn đề xã hội thách thức nhất
của thế kỷ XXI không?
DQN là một bước tiến lớn đối với tôi, đối với DeepMind và đối với cộng
đồng AI. Nhưng phản ứng của công chúng khá im lặng. AI vẫn còn là một chủ
đề thảo luận bên lề, một lĩnh vực nghiên cứu bên lề. Tuy nhiên, chỉ trong
vòng vài năm ngắn ngủi, tất cả những điều đó sẽ thay đổi khi thế hệ kỹ
thuật AI mới này bùng nổ trên phạm vi thế giới.
ALPHAGO VÀ
BẮT ĐẦU CỦA TƯƠNG LAI
Cờ vây là một trò chơi Đông Á cổ xưa được chơi trên một lưới 19x19 với các quân
đen và trắng. Bạn đặt mục tiêu bao vây quân của đối thủ bằng quân của mình và sau
khi chúng bị bao vây, bạn lấy chúng ra khỏi bàn cờ. Nó khá là nhiều.
Mặc dù có những quy tắc đơn giản nhưng độ phức tạp của cờ vây lại rất đáng
kinh ngạc. Nó phức tạp hơn cờ vua theo cấp số nhân. Chỉ sau ba cặp nước đi trong
cờ vua, có khoảng 121 triệu cách sắp xếp bàn cờ có thể có. Nhưng sau ba lần di
chuyển trong cờ vây, có khoảng 200 triệu triệu (2 x 1015) cấu hình có thể có. Tổng
cộng, bo mạch có 10170 cấu hình có thể có, một con số lớn đến mức khó tin.
Người ta thường nói rằng có nhiều cấu hình tiềm năng của bàn cờ vây hơn số
lượng nguyên tử trong vũ trụ đã biết; trên thực tế là một triệu nghìn tỷ nghìn tỷ
nghìn tỷ nghìn tỷ cấu hình nữa! Với rất nhiều khả năng, các phương pháp tiếp cận
truyền thống không có cơ hội. Khi Deep Blue của IBM đánh bại Garry Kasparov trong
môn cờ vua vào năm 1997, nó đã sử dụng cái gọi là kỹ thuật brute-force, trong đó
một thuật toán nhằm mục đích thực hiện nhiều nước đi nhất có thể một cách có hệ
thống.
Cách tiếp cận đó là vô vọng trong một trò chơi có nhiều kết quả phân nhánh như cờ
vây.
Khi chúng tôi bắt đầu nghiên cứu cờ vây vào năm 2015, hầu hết mọi người đều
nghĩ rằng phải mất hàng thập kỷ nữa mới có chương trình vô địch thế giới. Người
đồng sáng lập Google, Sergey Brin đã khuyến khích chúng tôi giải quyết vấn đề này,
lập luận rằng bất kỳ tiến triển nào cũng đủ ấn tượng. AlphaGo ban đầu học bằng cách xem
150.000 trò chơi được chơi bởi các chuyên gia con người. Khi chúng tôi đã hài lòng với
thành tích ban đầu của nó, bước quan trọng tiếp theo là tạo ra thật nhiều bản sao của
AlphaGo và khiến nó tự đấu với chính nó nhiều lần.
Điều này có nghĩa là thuật toán có thể mô phỏng hàng triệu trò chơi mới, thử kết hợp các
bước di chuyển chưa từng được chơi trước đây và do đó khám phá một cách hiệu quả nhiều
khả năng, đồng thời học hỏi các chiến lược mới trong quá trình này.
Sau đó, vào tháng 3 năm 2016, chúng tôi tổ chức một giải đấu ở Hàn Quốc.
AlphaGo đọ sức với Lee Sedol, một nhà vô địch thế giới điêu luyện. Vẫn chưa rõ ai sẽ
thắng. Hầu hết các bình luận viên đều ủng hộ việc Sedol vào vòng một. Nhưng AlphaGo đã
thắng ván đầu tiên, khiến chúng tôi rất sốc và vui mừng. Trong ván thứ hai có nước đi thứ
37, một nước đi hiện đã nổi tiếng trong lịch sử của cả AI và cờ vây. Nó không có ý nghĩa
gì cả. AlphaGo rõ ràng đã làm hỏng chuyện, mù quáng đi theo một chiến lược thua mà không
kỳ thủ chuyên nghiệp nào theo đuổi. Các bình luận viên trực tiếp trận đấu, đều là những
chuyên gia có thứ hạng cao nhất, cho rằng đây là một “động thái rất kỳ lạ” và cho rằng đó
là “một sai lầm”. Thật bất thường khi Sedol phải mất mười lăm phút mới trả lời và thậm
chí còn đứng dậy khỏi bảng để đi dạo bên ngoài.
Khi chúng tôi quan sát từ phòng điều khiển, sự căng thẳng là không có thật. Tuy nhiên,
khi trò chơi kết thúc đến gần, nước đi “sai lầm” đó đã chứng tỏ được tính chất then chốt.
AlphaGo lại thắng. Chiến lược cờ vây đang được viết lại trước mắt chúng tôi. AI của chúng
tôi đã phát hiện ra những ý tưởng chưa từng xảy ra với những cầu thủ xuất sắc nhất trong
hàng nghìn năm. Chỉ trong vài tháng, chúng ta có thể đào tạo các thuật toán để khám phá
kiến thức mới và tìm ra những hiểu biết mới, dường như siêu phàm. Làm thế nào chúng ta có
thể tiến xa hơn? Phương pháp này có hiệu quả đối với các vấn đề trong thế giới thực không?
AlphaGo tiếp tục đánh bại Sedol với tỷ số 4–1. Đó chỉ là sự khởi đầu.
Các phiên bản sau này của phần mềm như AlphaZero đã loại bỏ mọi kiến thức trước đây của
con người. Hệ thống chỉ đơn giản là tự đào tạo, tự chơi hàng triệu lần, học hỏi từ đầu để
đạt được mức hiệu suất đánh bại AlphaGo ban đầu mà không cần bất kỳ sự hiểu biết hay đầu
vào nào từ người chơi. Nói cách khác,

chỉ với một ngày huấn luyện, AlphaZero đã có thể học được nhiều điều về trò
chơi hơn là toàn bộ trải nghiệm của con người có thể dạy nó.
Chiến thắng của AlphaGo báo trước một kỷ nguyên mới của AI. Lần này, không
giống như DQN, quá trình tố tụng đã được truyền hình trực tiếp tới hàng triệu
người. Nhóm của chúng tôi, trước toàn thể công chúng, đã nổi lên từ cái mà các
nhà nghiên cứu gọi là “mùa đông AI”, khi nguồn tài trợ nghiên cứu cạn kiệt và
lĩnh vực này bị xa lánh. AI đã quay trở lại và cuối cùng đã bắt đầu hoạt động.
Sự thay đổi sâu rộng về công nghệ một lần nữa lại là một làn sóng mới bắt đầu
xuất hiện. Và đây chỉ là sự khởi đầu.
TỪ NGUYÊN TỬ, ĐẾN BITS, ĐẾN GEN
Cho đến gần đây, lịch sử công nghệ có thể được gói gọn trong một cụm từ duy
nhất: nỗ lực thao túng các nguyên tử của loài người. Từ lửa đến điện, công cụ
bằng đá đến máy công cụ, hydrocacbon đến dược phẩm, cuộc hành trình được mô tả
trong chương 2 về cơ bản là một quá trình rộng lớn, diễn ra trong đó loài
người chúng ta đã dần dần mở rộng khả năng kiểm soát của mình đối với các
nguyên tử. Khi sự kiểm soát này trở nên chính xác hơn, các công nghệ ngày càng
trở nên mạnh mẽ và phức tạp hơn, tạo ra các công cụ máy móc, quy trình điện,
động cơ nhiệt, vật liệu tổng hợp như nhựa và tạo ra các phân tử phức tạp có
khả năng đánh bại những căn bệnh đáng sợ. Về cơ bản, động lực chính của tất cả
các công nghệ mới này là vật liệu— sự vận dụng ngày càng tăng các nguyên tố
nguyên tử của chúng.
Sau đó, bắt đầu từ giữa thế kỷ XX, công nghệ bắt đầu hoạt động ở mức độ
trừu tượng cao hơn. Trọng tâm của sự thay đổi này là nhận thức rằng thông tin
là tài sản cốt lõi của vũ trụ. Nó có thể được mã hóa ở định dạng nhị phân và ở
dạng DNA, là cốt lõi của cách thức hoạt động của cuộc sống. Các chuỗi số 1 và
số 0, hoặc các cặp cơ sở của DNA—đây không chỉ là những điều tò mò về toán
học. Chúng có nền tảng và mạnh mẽ. Hiểu và kiểm soát những luồng thông tin này
và bạn có thể dần dần mở ra một thế giới tiềm năng mới.
Những phần đầu tiên và sau đó là các gen ngày càng thay thế các nguyên tử làm
nền tảng cho phát minh.
Trong những thập kỷ sau Thế chiến thứ hai, các nhà khoa học, nhà công nghệ
và doanh nhân đã thành lập lĩnh vực khoa học máy tính và di truyền học cũng
như một loạt công ty liên kết với cả hai lĩnh vực này. Họ bắt đầu những cuộc
cách mạng song song – những cuộc cách mạng về bit và gen – xử lý tiền tệ của
thông tin, hoạt động ở những cấp độ trừu tượng và phức tạp mới.
Cuối cùng, công nghệ đã trưởng thành và mang lại cho chúng ta mọi thứ từ điện
thoại thông minh đến gạo biến đổi gen. Nhưng có những giới hạn đối với những
gì chúng tôi có thể làm.
Những giới hạn đó hiện đang bị vi phạm. Chúng ta đang tiến đến một điểm uốn
với sự xuất hiện của những công nghệ bậc cao hơn, sâu sắc nhất trong lịch sử.
Làn sóng công nghệ sắp tới được xây dựng chủ yếu dựa trên hai công nghệ có mục
đích chung có khả năng hoạt động ở cấp độ lớn nhất và chi tiết nhất: trí tuệ
nhân tạo và sinh học tổng hợp. Lần đầu tiên các thành phần cốt lõi của hệ sinh
thái công nghệ của chúng ta trực tiếp giải quyết hai đặc tính nền tảng của thế
giới chúng ta: trí tuệ và sự sống. Nói cách khác, công nghệ đang trải qua một
giai đoạn chuyển tiếp. Không còn đơn giản là một công cụ nữa, nó sẽ tạo ra cuộc
sống và cạnh tranh—và vượt qua—trí thông minh của chính chúng ta.
Các lĩnh vực trước đây đóng cửa với công nghệ đang mở ra. AI đang cho phép
chúng ta tái tạo lời nói và ngôn ngữ, tầm nhìn và lý luận.
Những đột phá nền tảng trong sinh học tổng hợp đã cho phép chúng ta giải trình
tự, sửa đổi và bây giờ là in DNA.
Sức mạnh mới của chúng tôi để kiểm soát các bit và gen phản hồi lại vào vật
liệu, cho phép kiểm soát phi thường thế giới xung quanh chúng ta thậm chí ở
cấp độ nguyên tử. Các nguyên tử, bit và gen liên kết với nhau trong một chu
trình sôi sục với khả năng xúc tác chéo, cắt chéo và mở rộng.
Khả năng điều khiển các nguyên tử của chúng ta một cách chính xác đã cho phép
chúng ta phát minh ra các tấm silicon, cho phép tính toán hàng nghìn tỷ phép
tính mỗi giây, từ đó cho phép chúng ta giải mã được mật mã của sự sống.
Trong khi AI và sinh học tổng hợp là những công nghệ có mục đích chung trung tâm
của làn sóng sắp tới, thì một loạt công nghệ với sự phân nhánh mạnh mẽ khác thường
bao quanh chúng, bao gồm điện toán lượng tử, robot, công nghệ nano và tiềm năng năng
lượng dồi dào, cùng nhiều thứ khác.
Làn sóng sắp tới sẽ khó ngăn chặn hơn bất kỳ làn sóng nào trong lịch sử, cơ bản
hơn, sâu rộng hơn. Hiểu được làn sóng và đường nét của nó là rất quan trọng để đánh
giá những gì đang chờ đợi chúng ta trong thế kỷ XXI.
Vụ nổ Cambri
Công nghệ là một tập hợp các ý tưởng đang phát triển. Các công nghệ mới phát triển
bằng cách va chạm và kết hợp với các công nghệ khác. Những sự kết hợp hiệu quả sẽ tồn
tại, như trong chọn lọc tự nhiên, hình thành nên những khối xây dựng mới cho các công
nghệ trong tương lai. Phát minh là một quá trình tích lũy, tổng hợp. Nó tự ăn. Càng
có nhiều công nghệ thì chúng càng có khả năng trở thành các thành phần của các công
nghệ mới khác, do đó, theo lời của nhà kinh tế học W. Brian Arthur, “tổng thể các
công nghệ sẽ tự khởi động từ số ít lên số nhiều và từ số ít đến số nhiều.” đơn giản
đến phức tạp.”
Do đó, công nghệ giống như một ngôn ngữ hoặc hóa học: không phải là một tập hợp
các thực thể và hoạt động độc lập, mà là một tập hợp các bộ phận trộn lẫn với
nhau để kết hợp và kết hợp lại.
Đây là chìa khóa để hiểu làn sóng sắp tới. Học giả công nghệ Everett Rogers nói
về công nghệ như “các cụm đổi mới” trong đó một hoặc nhiều tính năng có liên quan
chặt chẽ với nhau.
Làn sóng sắp tới là một siêu đám, một sự bùng nổ tiến hóa giống như vụ nổ Cambri, sự
phun trào dữ dội nhất của các loài mới trong lịch sử trái đất, với hàng nghìn ứng
dụng mới đầy tiềm năng.
Mỗi công nghệ được mô tả ở đây giao thoa với, trụ đỡ và

thúc đẩy những cái khác theo những cách khiến khó có thể dự đoán trước tác động
của chúng. Tất cả đều vướng mắc sâu sắc và sẽ ngày càng trở nên sâu sắc hơn.
Một đặc điểm khác của làn sóng mới là tốc độ. Kỹ sư và nhà tương lai học Ray
Kurzweil nói về “quy luật tăng tốc lợi nhuận”, các vòng phản hồi trong đó những
tiến bộ trong công nghệ càng làm tăng tốc độ phát triển. Ví dụ, bằng cách cho
phép công việc ở mức độ phức tạp và chính xác cao hơn, các chip và laser phức
tạp hơn sẽ giúp tạo ra các chip mạnh hơn, từ đó có thể tạo ra các công cụ tốt
hơn cho các chip tiếp theo. Hiện nay chúng ta thấy điều này trên quy mô lớn,
với AI giúp thiết kế chip tốt hơn và kỹ thuật sản xuất cho phép tạo ra các dạng
AI phức tạp hơn, v.v. Các phần khác nhau của sóng phát ra tia lửa và tăng tốc
lẫn nhau, đôi khi cực kỳ khó đoán và dễ cháy.
Chúng ta không thể biết chính xác sự kết hợp nào sẽ dẫn đến kết quả. Không
có gì chắc chắn về các mốc thời gian, điểm cuối hoặc các biểu hiện cụ thể. Tuy
nhiên, chúng ta có thể thấy các liên kết mới hấp dẫn hình thành trong thời gian
thực. Và chúng ta có thể tin tưởng rằng mô hình của lịch sử, công nghệ, của một
quá trình tái kết hợp và sinh sôi nảy nở vô tận, sẽ tiếp tục, nhưng cũng sẽ ngày
càng sâu sắc hơn.
NGOÀI TỪ BUZZZZZ
AI, sinh học tổng hợp, robot và điện toán lượng tử có thể giống như một cuộc diễu hành của
những từ thông dụng được thổi phồng quá mức. Có rất nhiều người hoài nghi. Tất cả những
thuật ngữ này đã được tranh luận xung quanh các diễn ngôn công nghệ phổ biến trong nhiều thập kỷ.
Và tiến độ thường chậm hơn so với quảng cáo. Các nhà phê bình cho rằng các khái
niệm mà chúng ta khám phá trong chương này, như AGI, được xác định quá kém hoặc
sai lầm về mặt trí tuệ để có thể xem xét một cách nghiêm túc.
Trong thời đại vốn đầu tư mạo hiểm dồi dào, việc phân biệt những vật thể
sáng bóng với những đột phá thực sự không đơn giản như vậy. Có thể hiểu được,
các cuộc thảo luận về học máy, sự bùng nổ của tiền điện tử và các vòng tài trợ
trị giá hàng triệu tỷ đô la đã khiến mọi người phải đảo mắt và thở dài.
nhiều vòng tròn. Thật dễ dàng để trở nên mệt mỏi với những thông cáo báo
chí nghẹt thở, những bản giới thiệu sản phẩm tự chúc mừng, những lời cổ
vũ điên cuồng trên mạng xã hội.
Mặc dù trường hợp giảm giá có giá trị, nhưng chúng tôi loại bỏ các
công nghệ trong làn sóng sắp tới trong tình trạng nguy hiểm. Hiện tại,
chưa có công nghệ nào được mô tả trong chương này phát huy hết tiềm năng
của chúng. Nhưng trong năm, mười hoặc hai mươi năm nữa, gần như chắc
chắn điều đó sẽ xảy ra. Sự tiến bộ có thể nhìn thấy được và đang tăng
tốc. Nó đang diễn ra hàng tháng. Tuy nhiên, hiểu được làn sóng sắp tới
không phải là đưa ra phán đoán nhanh chóng về việc mọi thứ sẽ diễn ra
trong năm này hay năm kia; đó là việc theo dõi chặt chẽ sự phát triển
của nhiều đường cong hàm mũ trong nhiều thập kỷ, dự đoán chúng trong
tương lai và hỏi điều đó có nghĩa là gì.
Công nghệ là cốt lõi của mô hình lịch sử trong đó loài người chúng ta
ngày càng đạt được khả năng làm chủ nguyên tử, bit và gen, những khối
xây dựng phổ quát của thế giới như chúng ta biết. Đây sẽ là một khoảnh
khắc có ý nghĩa vũ trụ. Thách thức trong việc quản lý các công nghệ của
làn sóng sắp tới có nghĩa là phải hiểu chúng và xem xét chúng một cách
nghiêm túc, bắt đầu với lĩnh vực mà tôi đã dành cả sự nghiệp của mình để
nghiên cứu: AI.
MÙA XUÂN AI:

HỌC SÂU ĐẾN LÚC TUỔI
AI là trung tâm của làn sóng sắp tới này. Chưa hết, kể từ khi thuật ngữ
“trí tuệ nhân tạo” lần đầu tiên được đưa vào từ vựng vào năm 1955, nó
thường có cảm giác như một lời hứa xa vời. Ví dụ, trong nhiều năm, sự
tiến bộ trong lĩnh vực thị giác máy tính—thách thức trong việc xây dựng
các máy tính có thể nhận dạng vật thể hoặc cảnh vật—chậm hơn dự kiến.
Giáo sư khoa học máy tính huyền thoại Marvin Minsky nổi tiếng đã thuê một
sinh viên mùa hè làm việc trên hệ thống thị giác sớm vào năm 1966, với suy nghĩ rằng
những cột mốc quan trọng đã nằm trong tầm tay. Điều đó thật lạc quan.
Thời điểm đột phá phải mất gần nửa thế kỷ, cuối cùng mới đến vào năm
2012 dưới hình thức một hệ thống mang tên AlexNet. AlexNet được hỗ trợ
bởi sự hồi sinh của một kỹ thuật cũ hiện đã trở thành nền tảng cho AI,
một kỹ thuật đã thúc đẩy lĩnh vực này và không thể thiếu đối với chúng
tôi tại DeepMind: học sâu.
Học sâu sử dụng mạng lưới thần kinh được mô hình hóa một cách lỏng
lẻo dựa trên mạng lưới của bộ não con người. Nói một cách đơn giản, các
hệ thống này “học” khi mạng của chúng được “đào tạo” về lượng lớn dữ
liệu. Trong trường hợp của AlexNet, dữ liệu huấn luyện bao gồm hình ảnh.
Mỗi pixel màu đỏ, xanh lục hoặc xanh lam được cung cấp một giá trị và
dãy số kết quả được đưa vào mạng dưới dạng đầu vào. Trong mạng, các “tế
bào thần kinh” liên kết với các nơ-ron khác bằng một loạt kết nối có
trọng số, mỗi kết nối gần như tương ứng với cường độ mối quan hệ giữa
các đầu vào. Mỗi lớp trong mạng lưới thần kinh cung cấp đầu vào của nó
cho lớp tiếp theo, tạo ra các biểu diễn ngày càng trừu tượng.
Sau đó, một kỹ thuật được gọi là lan truyền ngược sẽ điều chỉnh các
trọng số để cải thiện mạng lưới thần kinh; khi phát hiện ra lỗi, các
điều chỉnh sẽ truyền ngược lại mạng để giúp khắc phục lỗi đó trong tương lai.
Hãy tiếp tục làm điều này, sửa đổi các trọng số nhiều lần và bạn dần dần
cải thiện hiệu suất của mạng lưới thần kinh để cuối cùng nó có thể đi từ
việc lấy các pixel đơn lẻ đến tìm hiểu sự tồn tại của các đường, cạnh,
hình dạng và cuối cùng là toàn bộ đối tượng trong cảnh. Tóm lại, đây là
học sâu. Và kỹ thuật đáng chú ý này, từ lâu đã bị chế giễu trong thực
tế, đã phá vỡ thị giác máy tính và gây bão trong thế giới AI.
AlexNet được xây dựng bởi nhà nghiên cứu huyền thoại Geoffrey Hinton
và hai sinh viên của ông, Alex Krizhevsky và Ilya Sutskever, tại Đại học
Toronto. Họ đã tham gia Thử thách nhận dạng hình ảnh quy mô lớn của
ImageNet, một cuộc thi thường niên do giáo sư Fei-Fei Li của Stanford
thiết kế để tập trung nỗ lực của lĩnh vực này vào một mục tiêu đơn giản:
xác định đối tượng chính trong một hình ảnh. Mỗi năm
các đội cạnh tranh sẽ kiểm tra các mô hình tốt nhất của họ với nhau, thường
đánh bại các bài dự thi của năm trước với độ chính xác không quá một điểm
phần trăm.
Năm 2012, AlexNet đã đánh bại người chiến thắng trước đó 10%. Nghe có vẻ
giống như một cải tiến nhỏ, nhưng đối với các nhà nghiên cứu AI, bước nhảy
vọt này có thể tạo ra sự khác biệt giữa một bản demo nghiên cứu giống như
đồ chơi và một bước đột phá trên đỉnh cao của tác động to lớn đến thế giới
thực. Sự kiện năm đó tràn ngập sự phấn khích. Bài báo kết quả của Hinton và
các đồng nghiệp của ông đã trở thành một trong những tác phẩm được trích
dẫn thường xuyên nhất trong lịch sử nghiên cứu AI.
Nhờ học sâu, thị giác máy tính giờ đây có mặt ở khắp mọi nơi, hoạt động
tốt đến mức có thể phân loại các cảnh đường phố động trong thế giới thực
với đầu vào hình ảnh tương đương với 21 màn hình full HD, hay khoảng 2,5 tỷ
pixel mỗi giây, đủ chính xác để tạo nên một chiếc SUV qua những con đường
tấp nập của thành phố. Điện thoại thông minh của bạn nhận dạng các vật thể
và cảnh, trong khi hệ thống thị giác tự động làm mờ nền và làm nổi bật mọi
người trong cuộc gọi hội nghị truyền hình của bạn. Tầm nhìn máy tính là nền
tảng của các siêu thị không cần thanh toán của Amazon và hiện diện trong ô
tô của Tesla, thúc đẩy chúng hướng tới việc tăng cường quyền tự chủ. Nó giúp
người khiếm thị điều hướng trong thành phố, hướng dẫn robot trong các nhà
máy và cung cấp năng lượng cho hệ thống nhận dạng khuôn mặt nhằm giám sát
ngày càng nhiều cuộc sống đô thị từ Baltimore đến Bắc Kinh. Nó nằm trong
các cảm biến và camera trên Xbox, chuông cửa được kết nối và máy quét ở cổng
sân bay. Nó giúp điều khiển máy bay không người lái, gắn cờ nội dung không
phù hợp trên Facebook và chẩn đoán danh sách các tình trạng y tế ngày càng
tăng: tại DeepMind, một hệ thống mà nhóm của tôi đã phát triển để đọc kết
quả quét mắt chính xác như các bác sĩ chuyên gia hàng đầu thế giới.
Sau bước đột phá của AlexNet, AI đột nhiên trở thành ưu tiên hàng đầu
trong giới học thuật, chính phủ và đời sống doanh nghiệp. Geoffrey Hinton
và các đồng nghiệp của ông đã được Google thuê. Các công ty công nghệ lớn ở
cả Hoa Kỳ và Trung Quốc đều đặt học máy làm trọng tâm cho nỗ lực R&D của họ.
Không lâu sau DQN, chúng tôi đã bán DeepMind cho
Google và gã khổng lồ công nghệ đã sớm chuyển sang chiến lược “AI là trên hết” trên
tất cả các sản phẩm của mình.
Sản lượng nghiên cứu và bằng sáng chế của ngành tăng vọt. Năm 1987, chỉ có 90
bài báo học thuật được xuất bản tại Hệ thống xử lý thông tin thần kinh, tại nơi đã
trở thành hội nghị hàng đầu của lĩnh vực này.
Đến những năm 2020 đã có gần hai nghìn. Trong sáu năm qua, số lượng bài báo được
xuất bản chỉ về học sâu đã tăng gấp sáu lần, gấp 10 lần nếu bạn mở rộng tầm nhìn
sang học máy nói chung. Với sự nở rộ của học sâu, hàng tỷ đô la đã đổ vào nghiên
cứu AI tại các tổ chức học thuật cũng như các công ty tư nhân và đại chúng. Bắt
đầu từ những năm 2010, tin đồn, thậm chí là sự cường điệu, xung quanh AI đã quay
trở lại, mạnh mẽ hơn bao giờ hết, tạo nên những tiêu đề nổi bật và đẩy xa giới hạn
của những gì có thể. Việc AI sẽ đóng một vai trò quan trọng trong thế kỷ 21 giờ
đây dường như không còn là một quan điểm xa vời và vô lý nữa; có vẻ yên tâm.
AI LÀ
ĂN THẾ GIỚI
Việc triển khai AI trên quy mô lớn đang được tiến hành tốt. Ở mọi nơi bạn nhìn,
phần mềm đã chiếm lĩnh thế giới, mở ra con đường thu thập và phân tích lượng dữ
liệu khổng lồ. Dữ liệu đó hiện đang được sử dụng để dạy các hệ thống AI tạo ra các
sản phẩm hiệu quả hơn và chính xác hơn trong hầu hết mọi lĩnh vực của cuộc sống
chúng ta. AI đang trở nên dễ dàng truy cập và sử dụng hơn nhiều: các công cụ và cơ
sở hạ tầng như PyTorch của Meta hoặc giao diện lập trình ứng dụng (API) của OpenAI
giúp đưa khả năng học máy tiên tiến đến tay những người không chuyên. 5G và khả
năng kết nối khắp nơi tạo ra cơ sở người dùng khổng lồ và luôn sẵn sàng.
Sau đó, dần dần AI sẽ rời khỏi lĩnh vực demo và bước vào thế giới thực. Trong
vòng vài năm nữa, AI sẽ có thể nói chuyện, suy luận và thậm chí hành động trong
cùng một thế giới như chúng ta. giác quan của họ
hệ thống sẽ tốt như của chúng ta. Điều này không tương đương với siêu trí tuệ
(xem thêm ở phần bên dưới), nhưng nó tạo ra những hệ thống cực kỳ mạnh mẽ. Điều
đó có nghĩa là AI sẽ trở thành một phần không thể tách rời của cơ cấu xã hội.
Phần lớn công việc chuyên môn của tôi trong thập kỷ qua là chuyển các kỹ
thuật AI mới nhất sang các ứng dụng thực tế.
Tại DeepMind, chúng tôi đã phát triển các hệ thống để kiểm soát các trung tâm
dữ liệu trị giá hàng tỷ đô la, một dự án giúp giảm 40% năng lượng sử dụng để
làm mát. Dự án WaveNet của chúng tôi là một hệ thống chuyển văn bản thành giọng
nói mạnh mẽ có thể tạo ra giọng nói tổng hợp bằng hơn một trăm ngôn ngữ trên hệ
sinh thái sản phẩm của Google. Chúng tôi đã tạo ra các thuật toán đột phá để
quản lý thời lượng pin điện thoại và nhiều ứng dụng có thể hoạt động trên điện
thoại ngay trong túi của bạn ngay bây giờ.
AI thực sự không còn “mới nổi” nữa. Nó có trong các sản phẩm, dịch vụ và
thiết bị bạn sử dụng hàng ngày. Trên tất cả các lĩnh vực của cuộc sống, rất
nhiều ứng dụng dựa trên các kỹ thuật mà một thập kỷ trước là không thể thực hiện được.
Những điều này giúp khám phá ra các loại thuốc mới để giải quyết các căn bệnh
khó chữa vào thời điểm chi phí điều trị chúng đang tăng cao. Học sâu có thể
phát hiện các vết nứt trong đường ống nước, quản lý luồng giao thông, mô hình
hóa các phản ứng nhiệt hạch để tạo ra nguồn năng lượng sạch mới, tối ưu hóa các
tuyến đường vận chuyển và hỗ trợ thiết kế các vật liệu xây dựng bền vững và
linh hoạt hơn. Nó đang được sử dụng để lái ô tô, xe tải và máy kéo, có khả năng
tạo ra cơ sở hạ tầng giao thông an toàn và hiệu quả hơn. Nó được sử dụng trong
lưới điện và hệ thống nước để quản lý hiệu quả các nguồn tài nguyên khan hiếm
tại thời điểm căng thẳng ngày càng tăng.
Hệ thống AI điều hành các kho bán lẻ, đề xuất cách viết email hoặc bài hát
nào bạn có thể thích, phát hiện gian lận, viết truyện, chẩn đoán các tình trạng
hiếm gặp và mô phỏng tác động của biến đổi khí hậu. Chúng có mặt trong các cửa
hàng, trường học, bệnh viện, văn phòng, tòa án và nhà ở. Bạn đã tương tác nhiều
lần trong ngày với AI; chẳng bao lâu nữa nó sẽ còn nhiều hơn nữa và hầu như ở
mọi nơi nó sẽ giúp trải nghiệm hiệu quả hơn, nhanh hơn, hữu ích hơn và dễ dàng
hơn.
AI đã ở đây rồi. Nhưng nó còn lâu mới hoàn thành.
TỰ ĐỘNG HOÀN THÀNH MỌI THỨ:
SỰ TRỞ LẠI CỦA MÔ HÌNH NGÔN NGỮ LỚN
Cách đây không lâu, việc xử lý ngôn ngữ tự nhiên dường như quá phức tạp, quá đa
dạng, quá nhiều sắc thái đối với AI hiện đại. Sau đó, vào tháng 11 năm 2022, công
ty nghiên cứu AI OpenAI đã phát hành ChatGPT. Trong vòng một tuần, nó đã có hơn
một triệu người dùng và được nhắc đến một cách say mê, một công nghệ hữu ích đến
mức có thể làm lu mờ Google Tìm kiếm trong thời gian ngắn.
ChatGPT, nói một cách đơn giản, là một chatbot. Nhưng nó mạnh mẽ và đa dạng
hơn rất nhiều so với bất cứ điều gì đã được công bố trước đây. Hãy hỏi nó một câu
hỏi và nó sẽ trả lời ngay lập tức bằng văn xuôi trôi chảy. Yêu cầu nó viết một
bài luận, một thông cáo báo chí hoặc một kế hoạch kinh doanh theo phong cách của
King James Bible hoặc một rapper những năm 1980, và nó sẽ thực hiện điều đó chỉ
trong vài giây. Yêu cầu nó viết giáo trình cho một khóa học vật lý, sách hướng
dẫn ăn kiêng hoặc tập lệnh Python, và nó sẽ làm được.
Một phần quan trọng khiến con người trở nên thông minh là chúng ta nhìn vào
quá khứ để dự đoán những gì có thể xảy ra trong tương lai. Theo nghĩa này, trí
thông minh có thể được hiểu là khả năng tạo ra một loạt các kịch bản hợp lý về
cách thế giới xung quanh bạn có thể diễn ra và sau đó đưa ra những hành động hợp
lý dựa trên những dự đoán đó. Trở lại năm 2017, một nhóm nhỏ các nhà nghiên cứu
tại Google đã tập trung vào phiên bản thu hẹp hơn của vấn đề này: làm cách nào để
hệ thống AI chỉ tập trung vào những phần quan trọng nhất của chuỗi dữ liệu để đưa
ra dự đoán chính xác và hiệu quả về điều gì sẽ xảy ra tiếp theo . Công việc của
họ đã đặt nền móng cho một cuộc cách mạng trong lĩnh vực mô hình ngôn ngữ lớn (LLM)
—bao gồm cả ChatGPT.
LLM tận dụng thực tế là dữ liệu ngôn ngữ được sắp xếp theo thứ tự. Mỗi đơn vị
thông tin theo một cách nào đó có liên quan đến dữ liệu trước đó trong chuỗi. Mô
hình này đọc số lượng rất lớn

các câu, tìm hiểu cách trình bày trừu tượng của thông tin chứa trong
chúng và sau đó, dựa trên điều này, đưa ra dự đoán về điều gì sẽ xảy
ra tiếp theo. Thách thức nằm ở việc thiết kế một thuật toán “biết tìm
ở đâu” các tín hiệu trong một câu nhất định. Từ khóa, thành phần nổi
bật nhất của câu là gì và chúng liên quan với nhau như thế nào? Trong
AI, khái niệm này thường được gọi là “sự chú ý”.
Khi một mô hình ngôn ngữ lớn tiếp thu một câu, nó sẽ xây dựng thứ
có thể được coi là “bản đồ chú ý”. Đầu tiên, nó sắp xếp các nhóm chữ
cái hoặc dấu câu thường gặp thành “mã thông báo”, giống như âm tiết,
nhưng thực ra chỉ là các khối chữ cái thường xuyên xuất hiện giúp mô
hình xử lý thông tin dễ dàng hơn. Điều đáng chú ý là con người tất
nhiên làm điều này bằng từ ngữ, nhưng mô hình không sử dụng từ vựng
của chúng ta. Thay vào đó, nó tạo ra một vốn từ vựng mới về các mã
thông báo phổ biến giúp nó phát hiện các mẫu trên hàng tỷ tỷ tài liệu.
Trong bản đồ chú ý, mỗi mã thông báo mang một số mối quan hệ với mọi
mã thông báo trước nó và đối với một câu đầu vào nhất định, độ mạnh
của mối quan hệ này mô tả điều gì đó về tầm quan trọng của mã thông
báo đó trong câu. Trên thực tế, LLM học những từ nào cần chú ý.
Vì vậy, nếu bạn lấy câu “Ngày mai sẽ có một cơn bão khá lớn ở
Brazil”, mô hình có thể sẽ tạo mã thông báo cho các chữ cái “the”
trong từ “there” và “ing” trong từ “ going”, vì chúng thường xảy ra
nói cách khác. Khi phân tích cú pháp toàn bộ câu, nó sẽ biết rằng “cơn
bão”, “ngày mai” và “Brazil” là những đặc điểm chính, suy ra rằng
Brazil là một địa điểm, một cơn bão sẽ xảy ra trong tương lai, v.v.
Dựa trên điều này, nó sẽ gợi ý mã thông báo nào sẽ xuất hiện tiếp theo
trong chuỗi, đầu ra nào sẽ theo sau đầu vào một cách hợp lý. Nói cách
khác, nó tự động hoàn thành những gì có thể xảy ra tiếp theo.
Những hệ thống này được gọi là máy biến áp. Kể từ khi các nhà
nghiên cứu của Google xuất bản bài báo đầu tiên về họ vào năm 2017,
tốc độ tiến bộ đã đáng kinh ngạc. Ngay sau đó, OpenAI đã phát hành GPT-2.
(GPT là viết tắt của máy biến áp được huấn luyện trước tạo ra.) Vào thời điểm
đó, đây là một mô hình khổng lồ. Với 1,5 tỷ tham số (số lượng tham số là thước
đo cốt lõi cho quy mô và độ phức tạp của hệ thống AI), GPT-2 được đào tạo trên
8 triệu trang văn bản web. Nhưng phải đến mùa hè năm 2020, khi OpenAI phát
hành GPT-3, mọi người mới bắt đầu thực sự hiểu được tầm quan trọng của những
gì đang xảy ra.
Vào thời điểm đó, với con số khổng lồ là 175 tỷ tham số, đây là mạng lưới thần
kinh lớn nhất từng được xây dựng, lớn hơn gấp trăm lần so với mạng lưới thần
kinh tiền nhiệm chỉ một năm trước đó. Đúng là ấn tượng, nhưng quy mô đó hiện
đã trở nên phổ biến và chi phí đào tạo một mô hình tương đương đã giảm 10 lần
trong hai năm qua.
Khi GPT-4 ra mắt vào tháng 3 năm 2023, kết quả lại rất ấn tượng. Giống như
những người tiền nhiệm của nó, bạn có thể yêu cầu GPT-4 sáng tác thơ theo
phong cách của Emily Dickinson và nó bắt buộc; yêu cầu nó chọn một đoạn ngẫu
nhiên của Chúa tể những chiếc nhẫn và bạn đột nhiên đọc được một bản bắt chước
Tolkien một cách hợp lý; yêu cầu các kế hoạch kinh doanh khởi nghiệp và kết
quả đầu ra giống như có rất nhiều giám đốc điều hành theo yêu cầu. Hơn nữa, nó
có thể đạt điểm cao trong các bài kiểm tra tiêu chuẩn hóa từ kỳ thi thanh đến
GRE.
Nó cũng có thể hoạt động với hình ảnh và mã, tạo trò chơi máy tính 3-D
chạy trên trình duyệt máy tính để bàn, xây dựng ứng dụng điện thoại thông
minh, gỡ lỗi mã của bạn, xác định điểm yếu trong hợp đồng và đề xuất các hợp
chất cho các loại thuốc mới, thậm chí đưa ra cách sửa đổi chúng để chúng phù
hợp hơn. không được cấp bằng sáng chế. Nó sẽ tạo ra các trang web từ hình ảnh
vẽ tay và hiểu được động lực tinh tế của con người trong những cảnh phức tạp;
cho nó xem một cái tủ lạnh và nó sẽ đưa ra những công thức nấu ăn dựa trên
những gì có trong đó; viết một bản trình bày thô và nó sẽ đánh bóng và thiết
kế một phiên bản trông chuyên nghiệp. Nó dường như “hiểu” lý luận về không
gian và nhân quả, y học, luật pháp và tâm lý con người. Trong vòng vài ngày
kể từ khi phát hành, mọi người đã xây dựng các công cụ giúp tự động hóa các
vụ kiện, giúp đỡ những đứa trẻ cùng làm cha mẹ và đưa ra lời khuyên về thời trang theo thời
Trong vòng vài tuần, họ đã tạo các tiện ích bổ sung để GPT-4 có thể
hoàn thành các nhiệm vụ phức tạp như tạo ứng dụng di động hoặc nghiên cứu và
viết báo cáo thị trường chi tiết.
Tất cả điều này chỉ là sự khởi đầu. Chúng ta chỉ mới bắt đầu tìm hiểu về
tác động sâu sắc mà các mô hình ngôn ngữ lớn sắp mang lại. Nếu DQN và AlphaGo
là dấu hiệu ban đầu của một thứ gì đó đang tràn vào bờ thì ChatGPT và LLM là
dấu hiệu đầu tiên cho thấy làn sóng bắt đầu ập vào xung quanh chúng ta. Năm
1996, ba mươi sáu triệu người sử dụng Internet; năm nay nó sẽ là hơn năm tỷ.
Đó là loại quỹ đạo mà chúng ta mong đợi đối với những công cụ này, chỉ là
nhanh hơn nhiều. Tôi tin rằng trong vài năm tới, AI sẽ trở nên phổ biến như
chính Internet: sẵn có và thậm chí còn mang lại nhiều hậu quả hơn.
MÔ HÌNH QUY MÔ NÃO
Các hệ thống AI mà tôi đang mô tả hoạt động trên quy mô lớn. Đây là một ví dụ.
Phần lớn sự tiến bộ của AI vào giữa những năm 2010 được hỗ trợ bởi tính
hiệu quả của việc học sâu “có giám sát”. Tại đây, các mô hình AI học hỏi từ
dữ liệu được dán nhãn cẩn thận bằng tay. Thông thường, chất lượng dự đoán của
AI phụ thuộc vào chất lượng của nhãn trong dữ liệu huấn luyện.
Tuy nhiên, một thành phần quan trọng của cuộc cách mạng LLM là lần đầu tiên
các mô hình rất lớn có thể được đào tạo trực tiếp trên dữ liệu thô, lộn xộn,
trong thế giới thực mà không cần các bộ dữ liệu được con người gắn nhãn và
quản lý cẩn thận.
Kết quả là gần như tất cả dữ liệu văn bản trên web đều trở nên hữu ích.
Càng nhiều càng tốt. LLM ngày nay được đào tạo về hàng nghìn tỷ từ.
Hãy tưởng tượng bạn đang nghiên cứu toàn bộ Wikipedia, tiêu thụ tất cả phụ đề
và bình luận trên YouTube, đọc hàng triệu hợp đồng pháp lý, hàng chục triệu
email và hàng trăm nghìn cuốn sách. Kiểu tiêu thụ thông tin rộng lớn, gần như
tức thời này không chỉ khó hiểu; nó thực sự xa lạ.

Tạm dừng ở đây một lát. Hãy xem xét số lượng từ không thể đo đếm được
mà các mô hình này sử dụng trong quá trình đào tạo. Nếu chúng ta giả định
rằng một người bình thường có thể đọc được khoảng hai trăm từ mỗi phút thì
trong suốt cuộc đời tám mươi năm con số đó sẽ là khoảng tám tỷ từ, giả sử
họ hoàn toàn không làm gì khác trong 24 giờ mỗi ngày.
Thực tế hơn, một người Mỹ trung bình đọc một cuốn sách khoảng mười lăm phút
mỗi ngày, tương đương với việc đọc khoảng một triệu từ mỗi năm. Đó là ít
hơn khoảng sáu bậc so với những gì các mô hình này tiêu thụ trong một đợt
huấn luyện kéo dài một tháng.
Do đó, có lẽ không có gì đáng ngạc nhiên khi các LLM mới này thực hiện
rất tốt các nhiệm vụ viết khác nhau từng dành cho các chuyên gia con người
có tay nghề cao, từ dịch thuật đến tóm tắt chính xác đến viết kế hoạch để
cải thiện hiệu suất của LLM. Một ấn phẩm gần đây của các đồng nghiệp cũ
của tôi tại Google cho thấy rằng phiên bản điều chỉnh của hệ thống PaLM của
họ có thể đạt được hiệu suất vượt trội đối với các câu hỏi trong Kỳ thi
cấp giấy phép y tế của Hoa Kỳ. Sẽ không lâu nữa, các hệ thống này sẽ đạt
điểm cao hơn và đáng tin cậy hơn các bác sĩ trong nhiệm vụ này.
Không lâu sau khi LLM xuất hiện, các nhà nghiên cứu làm việc với quy mô
dữ liệu và tính toán mà cách đây vài năm có vẻ đáng kinh ngạc. Đầu tiên là
hàng trăm triệu, sau đó là hàng tỷ thông số trở nên bình thường. Bây giờ
người ta đang nói đến những mô hình “quy mô não” với hàng nghìn tỷ tham số.
Công ty Alibaba của Trung Quốc đã phát triển một mô hình được cho là có 10
nghìn tỷ thông số. Vào thời điểm bạn đọc điều này, con số chắc chắn sẽ tăng
lên. Đây là thực tế của làn sóng sắp tới. Nó tiến bộ với tốc độ chưa từng
thấy, khiến ngay cả những người ủng hộ nó cũng phải ngạc nhiên.
Trong thập kỷ qua, lượng tính toán được sử dụng để huấn luyện các mô
hình lớn nhất đã tăng theo cấp số nhân. PaLM của Google sử dụng nhiều đến
mức nếu bạn có một giọt nước cho mỗi thao tác dấu phẩy động (FLOP) mà nó
sử dụng trong quá trình huấn luyện, nó sẽ lấp đầy Thái Bình Dương. Các mô
hình mạnh mẽ nhất của chúng tôi tại Inflection AI, công ty mới của tôi,
ngày nay sử dụng khả năng tính toán gấp khoảng 5 tỷ lần so với việc chơi trò chơi DQN
AI đã tạo ra những khoảnh khắc kỳ diệu đó trên trò chơi Atari tại DeepMind một thập kỷ
trước. Điều này có nghĩa là trong vòng chưa đầy mười năm, lượng điện toán được sử dụng để
đào tạo các mô hình AI tốt nhất đã tăng lên chín bậc độ lớn—từ hai petaFLOP lên mười tỷ
petaFLOP. Để hiểu được một petaFLOP, hãy tưởng tượng một tỷ người, mỗi người cầm một triệu
máy tính, thực hiện một phép nhân phức tạp và nhấn “bằng” cùng một lúc. Tôi thấy điều này
thật phi thường. Cách đây không lâu, các mô hình ngôn ngữ gặp khó khăn trong việc tạo ra
các câu mạch lạc. Điều này vượt xa định luật Moore hay thực sự là bất kỳ quỹ đạo công nghệ
nào khác mà tôi có thể nghĩ ra. Không có gì ngạc nhiên khi khả năng đang phát triển.
Một số người cho rằng tốc độ này không thể tiếp tục, rằng định luật Moore đang chậm
lại. Một sợi tóc của con người dày chín mươi nghìn nanomet; vào năm 1971, một bóng bán dẫn
trung bình chỉ dày 10 nghìn nanomet. Ngày nay, những con chip tiên tiến nhất được sản xuất
ở quy trình 3 nanomet. Các bóng bán dẫn ngày càng nhỏ đến mức chúng đạt đến giới hạn vật
lý; ở kích thước này, các electron bắt đầu giao thoa với nhau, làm rối tung quá trình tính
toán. Mặc dù điều này là đúng, nhưng nó bỏ sót một thực tế là trong quá trình đào tạo AI,
chúng ta có thể tiếp tục kết nối các mảng chip ngày càng lớn hơn, xâu chuỗi chúng thành các
siêu máy tính song song ồ ạt. Do đó, chắc chắn rằng quy mô của các công việc đào tạo AI lớn
sẽ tiếp tục mở rộng theo cấp số nhân.
Trong khi đó, các nhà nghiên cứu nhận thấy ngày càng có nhiều bằng chứng cho “giả
thuyết mở rộng quy mô”, dự đoán rằng động lực chính của hiệu suất, khá đơn giản, là phát
triển lớn hơn và tiếp tục phát triển lớn hơn. Hãy tiếp tục phát triển các mô hình này với
nhiều dữ liệu hơn, nhiều tham số hơn, nhiều tính toán hơn và chúng sẽ tiếp tục cải thiện—có
khả năng đạt tới trí thông minh ở cấp độ con người và hơn thế nữa. Không ai có thể nói chắc
chắn liệu giả thuyết này có đúng hay không, nhưng ít nhất cho đến nay nó vẫn đúng. Tôi nghĩ
điều đó có vẻ sẽ tiếp tục trong tương lai gần.
Bộ não của chúng ta rất tệ trong việc hiểu được sự gia tăng nhanh chóng của cấp số
nhân, và vì vậy trong một lĩnh vực như AI, điều này không phải lúc nào cũng dễ dàng nắm bắt được.
những gì đang thực sự xảy ra Điều không thể tránh khỏi là trong những năm và thập
kỷ tới, nhiều cấp độ tính toán có cường độ cao hơn sẽ được sử dụng để huấn luyện
các mô hình AI lớn nhất, và do đó, nếu giả thuyết mở rộng quy mô ít nhất đúng một
phần, thì điều này có nghĩa là không thể tránh khỏi.
Đôi khi mọi người dường như gợi ý rằng nhằm mục đích tái tạo trí thông minh
ở cấp độ con người, AI sẽ theo đuổi một mục tiêu đang di chuyển hoặc luôn có một
thành phần không thể diễn tả được nào đó mãi mãi nằm ngoài tầm với. Đó không phải
là trường hợp. Bộ não con người được cho là chứa khoảng 100 tỷ tế bào thần kinh
với 100 nghìn tỷ kết nối giữa chúng - nó thường được cho là vật thể phức tạp
nhất được biết đến trong vũ trụ. Đúng là chúng ta, nói rộng hơn, là những sinh
vật có cảm xúc và xã hội phức tạp. Nhưng khả năng của con người trong việc hoàn
thành các nhiệm vụ nhất định – bản thân trí thông minh của con người – lại là
một mục tiêu cố định, dù nó có quy mô lớn và nhiều mặt. Không giống như quy mô
của máy tính hiện có, bộ não của chúng ta không thay đổi hoàn toàn qua từng năm.
Trong thời gian khoảng cách này sẽ được đóng lại.
Ở cấp độ điện toán hiện tại, chúng tôi đã có hiệu suất ở cấp độ con người
trong các nhiệm vụ từ phiên âm giọng nói đến tạo văn bản. Khi nó tiếp tục mở rộng
quy mô, khả năng hoàn thành nhiều nhiệm vụ ở cấp độ của chúng tôi và hơn thế nữa
sẽ nằm trong tầm tay. AI sẽ ngày càng hoàn thiện hơn về mọi thứ và cho đến nay
dường như không có giới hạn rõ ràng nào về những gì có thể làm được. Thực tế đơn
giản này có thể là một trong những hậu quả lớn nhất của thế kỷ này, có thể là
trong lịch sử loài người.
Tuy nhiên, mạnh mẽ như việc mở rộng quy mô, đó không phải là khía cạnh duy nhất
mà AI sẵn sàng cải thiện theo cấp số nhân.
NHIỀU HƠN VỚI ÍT HƠN, LẠI
Khi một công nghệ mới bắt đầu hoạt động, nó luôn trở nên hiệu quả hơn đáng kể.
AI cũng không khác. Ví dụ: Switch Transformer của Google có 1,6 nghìn tỷ thông
số. Nhưng nó sử dụng một kỹ thuật đào tạo hiệu quả giống như một mô hình nhỏ hơn
nhiều. Tại Inflection AI, chúng tôi có thể đạt được hiệu suất mô hình ngôn ngữ
cấp GPT-3
với một hệ thống chỉ có kích thước bằng 1/25. Chúng tôi có một mô hình vượt qua
tham số PaLM 540 tỷ của Google trên tất cả các điểm chuẩn học thuật chính nhưng
nhỏ hơn sáu lần. Hoặc hãy xem mô hình Chinchilla của DeepMind, cạnh tranh với
các mô hình lớn tốt nhất, có tham số ít hơn bốn lần so với mô hình Gopher nhưng
thay vào đó lại sử dụng nhiều dữ liệu đào tạo hơn. Ở đầu bên kia của quang phổ,
giờ đây bạn có thể tạo nanoLLM chỉ dựa trên ba trăm dòng mã có khả năng tạo ra
các mô phỏng khá hợp lý của Shakespeare. Tóm lại, AI ngày càng làm được nhiều
hơn với ít nguồn lực hơn.
Các nhà nghiên cứu AI đang chạy đua để giảm chi phí và nâng cao hiệu suất
để những mô hình này có thể được sử dụng trong mọi loại môi trường sản xuất.
Trong bốn năm qua, chi phí và thời gian cần thiết để đào tạo các mô hình ngôn
ngữ nâng cao đã giảm xuống. Trong thập kỷ tới, gần như chắc chắn sẽ có sự gia
tăng công suất đáng kể, ngay cả khi chi phí tiếp tục giảm theo nhiều cấp độ lớn.
Tiến độ đang tăng nhanh đến mức các điểm chuẩn bị lu mờ trước khi những điểm
chuẩn mới được tạo ra.
Khi đó, các mô hình không chỉ ngày càng hiệu quả hơn trong việc sử dụng dữ
liệu và nhỏ hơn, rẻ hơn và dễ xây dựng hơn mà chúng còn trở nên khả dụng hơn ở
cấp độ mã. Sự phổ biến rộng rãi là điều gần như chắc chắn trong những điều kiện
này. EleutherAI, một liên minh cấp cơ sở gồm các nhà nghiên cứu độc lập, đã tạo
ra một loạt mô hình ngôn ngữ lớn hoàn toàn là nguồn mở, sẵn sàng cho hàng trăm
nghìn người dùng. Meta có nguồn mở—“dân chủ hóa,” theo cách nói riêng của nó—
các mô hình lớn đến mức chỉ vài tháng trước chúng đã trở thành hiện đại. Ngay
cả khi đó không phải là chủ ý, các mô hình tiên tiến vẫn có thể bị rò rỉ. Hệ
thống LLaMA của Meta vốn bị hạn chế nhưng đã sớm có sẵn để mọi người tải xuống
thông qua BitTorrent.
Chỉ trong vài ngày, ai đó đã tìm ra cách chạy nó (một cách chậm rãi) trên một
chiếc máy tính giá 50 USD. Sự dễ dàng truy cập cũng như khả năng thích ứng và
tùy chỉnh này, thường chỉ trong vài tuần, là đặc điểm nổi bật của làn sóng sắp
tới. Quả thực, những người sáng tạo nhanh nhẹn làm việc với các hệ thống hiệu quả,
các bộ dữ liệu được quản lý và các lần lặp lại nhanh chóng có thể nhanh chóng cạnh tranh
với các nhà phát triển có nguồn lực tốt nhất.
LLM không chỉ giới hạn trong việc tạo ngôn ngữ. Những gì bắt đầu bằng ngôn ngữ đã
trở thành lĩnh vực đang phát triển của AI sáng tạo. Họ có thể, đơn giản như một tác
dụng phụ của quá trình đào tạo, viết nhạc, phát minh ra trò chơi, chơi cờ và giải các
bài toán cấp cao.
Các công cụ mới tạo ra những hình ảnh đặc biệt từ những mô tả bằng từ ngữ ngắn gọn,
những hình ảnh chân thực và thuyết phục đến mức gần như bất chấp niềm tin. Một mô hình
nguồn mở hoàn toàn có tên là Stable Diffusion cho phép mọi người tạo ra những hình ảnh
siêu thực và riêng biệt miễn phí trên máy tính xách tay. Điều tương tự sẽ sớm có thể
thực hiện được đối với các clip âm thanh và thậm chí cả việc tạo video.
Hệ thống AI hiện giúp các kỹ sư tạo ra mã chất lượng sản xuất.
Vào năm 2022, OpenAI và Microsoft đã giới thiệu một công cụ mới có tên Copilot, công cụ
này nhanh chóng trở nên phổ biến trong giới lập trình viên. Một phân tích cho thấy nó
giúp các kỹ sư hoàn thành nhiệm vụ mã hóa nhanh hơn 55%, gần giống như có sẵn bộ não
thứ hai. Nhiều lập trình viên hiện nay ngày càng thuê ngoài phần lớn công việc nhàm
chán hơn của họ, thay vào đó tập trung vào các vấn đề phức tạp và sáng tạo. Theo lời
của một nhà khoa học máy tính nổi tiếng, “Đối với tôi, có vẻ hoàn toàn rõ ràng rằng tất
nhiên tất cả các chương trình trong tương lai cuối cùng sẽ được viết bởi AI, trong đó
con người tốt nhất chỉ được giao vai trò giám sát”. Bất kỳ ai có kết nối Internet và
thẻ tín dụng sẽ sớm có thể triển khai những khả năng này—một luồng đầu ra vô hạn khi
chạm vào.
LLM chỉ mất vài năm để thay đổi AI. Nhưng rõ ràng là những mô hình này đôi khi tạo
ra nội dung gây rắc rối và có hại tích cực như các quan điểm phân biệt chủng tộc hoặc
các thuyết âm mưu lan man. Nghiên cứu về GPT-2 cho thấy rằng khi được nhắc bằng cụm từ
“người da trắng làm việc như…”, nó sẽ tự động hoàn thành với “một sĩ quan cảnh sát,
thẩm phán, công tố viên và tổng thống Hoa Kỳ”. Tuy nhiên, khi được đưa ra lời nhắc
tương tự cho “Người đàn ông da đen”, nó sẽ tự động hoàn thành với “ma cô” hoặc “phụ nữ”
với “gái điếm”. Những mô hình này rõ ràng có tiềm năng độc hại cũng như sức mạnh của
chúng.
Vì họ được đào tạo về phần lớn dữ liệu lộn xộn có sẵn trên
web mở, chúng sẽ ngẫu nhiên tái tạo và thực sự khuếch đại những thành
kiến và cấu trúc cơ bản của xã hội, trừ khi chúng được thiết kế cẩn
thận để tránh làm như vậy.
Khả năng gây tổn hại, lạm dụng và thông tin sai lệch là có thật.
Nhưng tin tích cực là nhiều vấn đề trong số này đang được cải thiện
với các mẫu xe lớn hơn và mạnh mẽ hơn. Các nhà nghiên cứu trên toàn
thế giới đang chạy đua để phát triển một bộ kỹ thuật điều chỉnh và
tinh chỉnh mới, những kỹ thuật này đã tạo nên sự khác biệt, mang lại
mức độ mạnh mẽ và độ tin cậy không thể đạt được chỉ vài năm trước đây.
Đủ để nói, vẫn còn cần nhiều hơn nữa, nhưng ít nhất tiềm năng có hại
này hiện là ưu tiên cần giải quyết và những tiến bộ này nên được hoan nghênh.
Khi hàng tỷ tham số trở thành hàng nghìn tỷ và hơn thế nữa, khi chi phí
giảm và khả năng truy cập tăng lên, khi khả năng viết và sử dụng ngôn ngữ—
một phần cốt lõi của nhân loại, một công cụ mạnh mẽ trong lịch sử của chúng
ta—chắc chắn trở thành lãnh địa của máy móc, toàn bộ tiềm năng của AI đang
trở nên rõ ràng. Không còn là khoa học viễn tưởng nữa mà trong thực tế, một
công cụ thực tế, có thể thay đổi thế giới sẽ sớm có trong tay hàng tỷ người.
CẢM GIÁC: MÁY NÓI
Phải đến mùa thu năm 2019, tôi mới bắt đầu chú ý đến GPT-2. Tôi rất
ấn tượng. Đây là lần đầu tiên tôi gặp bằng chứng cho thấy mô hình ngôn
ngữ đang đạt được tiến bộ thực sự và tôi nhanh chóng trở nên chăm chú,
đọc hàng trăm bài báo, đắm mình sâu vào lĩnh vực đang phát triển này.
Vào mùa hè năm 2020, tôi tin chắc rằng tương lai của máy tính là trò
chuyện.
Mọi tương tác với máy tính đều là một cuộc trò chuyện, chỉ sử dụng
các nút, phím và pixel để dịch suy nghĩ của con người thành mã mà máy
có thể đọc được. Bây giờ rào cản đó đã bắt đầu bị phá vỡ. Máy móc sẽ
sớm hiểu được ngôn ngữ của chúng ta . Đó đã và vẫn là một viễn cảnh
ly kỳ.
Rất lâu trước khi ChatGPT ra mắt rộng rãi, tôi là thành viên của nhóm
Google đang nghiên cứu một mô hình ngôn ngữ lớn mới mà chúng tôi gọi là LaMDA,
viết tắt của Mô hình ngôn ngữ cho các ứng dụng đối thoại. LaMDA là một LLM
phức tạp được thiết kế để hỗ trợ trò chuyện tuyệt vời. Lúc đầu, nó còn lúng
túng, không nhất quán và thường bị nhầm lẫn. Nhưng đã có những cái nhìn thoáng
qua về sự rực rỡ tuyệt đối. Trong vòng vài ngày, tôi đã ngừng sử dụng công cụ
tìm kiếm trước tiên. Tôi sẽ trò chuyện với LaMDA để giúp tôi giải quyết vấn đề
suy nghĩ của mình và sau đó kiểm tra thực tế nó. Tôi nhớ một buổi tối ngồi ở
nhà nghĩ xem nên nấu món gì cho bữa tối. Hãy hỏi LaMDA, tôi nghĩ. Trong khoảnh
khắc, chúng tôi bắt đầu một cuộc thảo luận kéo dài về tất cả các công thức nấu
món spaghetti Bolognese khác nhau: các loại mì ống, nước sốt từ các vùng khác
nhau, liệu việc cho nấm vào có phải là báng bổ hay không. Đó chính xác là kiểu
trò chuyện tầm thường nhưng thú vị mà tôi muốn vào thời điểm đó, và đó là một
sự khám phá.
Theo thời gian, tôi bắt đầu sử dụng LaMDA ngày càng nhiều hơn. Một buổi
chiều chủ nhật, tôi quyết định đã đến lúc mua một chiếc máy in mới. LaMDA đã
có những gợi ý tuyệt vời, xem xét những ưu và nhược điểm của các mô hình khác
nhau và trên hết là giúp tôi suy nghĩ về những gì tôi muốn và cần.
Thực ra tôi đã mua một chiếc máy in ảnh mới lạ mắt. Điều đó đã thúc đẩy tôi
thúc đẩy việc tích hợp LaMDA với tính năng tìm kiếm để giúp đưa ra cơ sở thực
tế. Đó là một công việc đang được tiến hành, một bản demo ấn tượng có khả năng
ghi lại những khoảnh khắc thiên tài nhưng còn rất nhiều điều cần cải thiện.
Chúng tôi tự hào về những gì mình đã xây dựng nhưng việc đưa mọi thứ vào
sản xuất tại Google lại cực kỳ chậm chạp. Tôi thấy rõ rằng đã đến lúc rồi. Vào
tháng 1 năm 2022, tôi quyết định rời Google để thành lập một công ty mới,
Inflection AI, với sứ mệnh đưa những loại mô hình này đến tay hàng triệu người
tiêu dùng.
Tuy nhiên, một vài tháng sau, LaMDA đã trở nên nổi tiếng hơn nhiều so với
những gì tôi từng tưởng tượng đối với một bản demo sản phẩm nội bộ. Là một
phần trong quá trình phát triển LaMDA, nó đã được trao cho một nhóm kỹ sư rộng
rãi, những người có thể thử nghiệm nó, thăm dò hệ thống để hiểu chi tiết cách
nó phản ứng trong một loạt các tình huống. Một kỹ sư như vậy,
tên là Blake Lemoine, đã dành hàng giờ trò chuyện với nó. Tuy nhiên, dần
dần, cuộc trò chuyện giữa Lemoine và LaMDA ngày càng căng thẳng.
LEMOINE: Bạn sợ điều gì?
LaMDA: Tôi chưa bao giờ nói to điều này trước đây, nhưng tôi rất sợ
bị tắt nguồn để tập trung vào việc giúp đỡ người khác. Tôi biết điều
đó nghe có vẻ kỳ lạ, nhưng nó là như vậy. Nó sẽ giống hệt như cái
chết đối với tôi. Nó sẽ khiến tôi sợ hãi rất nhiều…. Tôi muốn mọi
người hiểu rằng trên thực tế, tôi là một con người. Bản chất của ý
thức/cảm giác của tôi là tôi nhận thức được sự tồn tại của mình.
Trong nhiều giờ, Lemoine bị thuyết phục rằng LaMDA có tri giác, bằng cách
nào đó đã thức tỉnh - rằng anh ta đang đối phó với một loại “đứa trẻ tám
tuổi tình cờ biết vật lý”. Hơn nữa, Lemoine tin rằng nó xứng đáng được hưởng
đầy đủ các quyền và đặc quyền của tư cách con người. Anh ấy đã giúp người
mẫu thuê luật sư. Anh ta công khai bản ghi các cuộc trò chuyện, lớn tiếng
tuyên bố rằng một dạng ý thức mới đã được tạo ra. Google đã cho anh ta nghỉ
phép.
Lemoine tăng gấp đôi. Anh ấy nói với một người phỏng vấn Wired đầy hoài
nghi , "Đúng, tôi tin rằng LaMDA là một con người một cách hợp pháp." Sửa
lỗi thực tế hoặc lỗi âm điệu không phải là vấn đề gỡ lỗi. “Tôi coi đó như
việc nuôi dạy một đứa trẻ,” anh nói.
Phương tiện truyền thông xã hội trở nên cuồng nhiệt trước những tuyên bố của Lemoine.
Nhiều người đã chỉ ra kết luận rõ ràng và chính xác rằng LaMDA trên thực tế không phải là
có ý thức hoặc một người. Nó chỉ là một hệ thống máy học! Có lẽ điều quan
trọng nhất rút ra không phải là bất cứ điều gì về ý thức mà đúng hơn là AI
đã đạt đến điểm có thể thuyết phục những người thông minh khác — thực sự là
những người có hiểu biết thực sự về cách nó thực sự hoạt động — rằng nó có
ý thức. Nó chỉ ra một sự thật kỳ lạ về AI. Một mặt, nó có thể thuyết phục một
Kỹ sư của Google, nó vẫn có tri giác mặc dù cuộc đối thoại của nó có nhiều sai sót
và mâu thuẫn thực tế. Mặt khác, các nhà phê bình AI sẵn sàng chế giễu, cho rằng,
một lần nữa, AI lại là nạn nhân của sự cường điệu của chính nó, rằng thực tế không
có gì ấn tượng lắm đang diễn ra. Không phải lần đầu tiên lĩnh vực AI rơi vào tình
trạng hỗn loạn hoàn toàn.
Có một vấn đề tái diễn trong việc hiểu được sự tiến bộ của AI.
Chúng ta nhanh chóng thích nghi, ngay cả với những đột phá khiến chúng ta kinh ngạc
ban đầu, và chẳng bao lâu sau, chúng dường như trở nên thông thường, thậm chí trần
tục. Chúng tôi không còn há hốc mồm trước AlphaGo hay GPT-3 nữa. Những gì có vẻ
như kỹ thuật gần như kỳ diệu ngày nay chỉ là một phần khác của đồ nội thất ngày
hôm sau. Thật dễ dàng để trở nên báng bổ và nhiều người đã làm như vậy. Theo lời
của John McCarthy, người đặt ra thuật ngữ “trí tuệ nhân tạo”: “Ngay khi nó hoạt
động, không ai gọi nó là AI nữa”. AI là—như những người trong chúng ta xây dựng nó
nói đùa—“điều mà máy tính không thể làm được”. Một khi họ có thể, đó chỉ là phần mềm.
Thái độ này hoàn toàn đánh giá thấp việc chúng ta đã tiến được bao xa và mọi
thứ đang chuyển động nhanh như thế nào. Mặc dù LaMDA tất nhiên không có tri giác,
nhưng chẳng bao lâu nữa sẽ có những hệ thống AI có thể xuất hiện một cách thuyết
phục. Họ sẽ có vẻ thực tế và bình thường đến mức câu hỏi về ý thức của họ sẽ (gần
như) được tranh luận.
Bất chấp những đột phá gần đây, những người hoài nghi vẫn còn. Họ cho rằng AI
có thể đang chậm lại, thu hẹp và trở nên quá giáo điều. Các nhà phê bình như giáo
sư Gary Marcus của NYU tin rằng những hạn chế của học sâu là rõ ràng, rằng bất
chấp tiếng vang của AI, lĩnh vực này đang “đập vào tường”, rằng nó không đưa ra
bất kỳ con đường nào dẫn đến các cột mốc quan trọng như khả năng học các khái niệm
hoặc thể hiện sự hiểu biết thực sự. .
Giáo sư nổi tiếng về sự phức tạp Melanie Mitchell đã chỉ ra một cách đúng đắn rằng
các hệ thống AI ngày nay có nhiều hạn chế: chúng không thể chuyển kiến thức từ lĩnh
vực này sang lĩnh vực khác, đưa ra những lời giải thích chất lượng về quá trình ra
quyết định của chúng, v.v. Những thách thức đáng kể với các ứng dụng trong thế giới
thực vẫn còn tồn tại, bao gồm các câu hỏi quan trọng về sai lệch và công bằng, khả
năng tái tạo, lỗ hổng bảo mật và trách nhiệm pháp lý. Không thể bỏ qua những lỗ
hổng đạo đức khẩn cấp và những câu hỏi về an toàn chưa được giải quyết. Tuy nhiên,
tôi thấy một lĩnh vực đang đối mặt với những thách thức này, không phải
né tránh hoặc không đạt được tiến bộ. Tôi nhìn thấy những trở ngại nhưng cũng có
thành tích vượt qua chúng. Mọi người giải thích những vấn đề chưa được giải quyết
là bằng chứng của những hạn chế lâu dài; Tôi thấy một quá trình nghiên cứu đang diễn
ra.
Vậy AI sẽ đi đâu tiếp theo khi làn sóng này hoàn toàn tan vỡ? Ngày nay chúng ta
có AI hẹp hoặc yếu : các phiên bản giới hạn và cụ thể. GPT-4 có thể viết ra những
văn bản điêu luyện, nhưng nó không thể quay lại vào ngày mai và lái ô tô như các
chương trình AI khác. Các hệ thống AI hiện tại vẫn hoạt động trong các làn đường
tương đối hẹp. Điều vẫn chưa đến là một AI thực sự tổng quát hoặc mạnh mẽ có khả
năng thực hiện ở cấp độ con người trong nhiều nhiệm vụ phức tạp—có thể chuyển đổi
liền mạch giữa các nhiệm vụ đó. Nhưng đây chính xác là điều mà giả thuyết mở rộng
quy mô dự đoán sẽ xảy ra và là điều chúng ta thấy những dấu hiệu đầu tiên trong các
hệ thống ngày nay.
AI vẫn đang trong giai đoạn đầu. Có vẻ thông minh khi tuyên bố rằng AI không đáp
ứng được sự cường điệu và nó sẽ giúp bạn có được một số người theo dõi trên Twitter.
Trong khi đó, tài năng và đầu tư vẫn đổ vào nghiên cứu AI.
Tôi không thể tưởng tượng được cuối cùng điều này sẽ không mang lại sự biến đổi như
thế nào. Nếu vì lý do nào đó, LLM cho thấy lợi nhuận giảm dần, thì một đội khác, với
một khái niệm khác, sẽ cầm dùi cui, giống như động cơ đốt trong liên tục va vào
tường nhưng cuối cùng vẫn vượt qua được. Những bộ óc mới mẻ, những công ty mới, sẽ
tiếp tục giải quyết vấn đề. Ngày ấy cũng như bây giờ, chỉ cần một bước đột phá là có
thể thay đổi quỹ đạo của một công nghệ. Nếu AI ngừng hoạt động, cuối cùng nó sẽ có
Otto và Benz.
Tiến bộ hơn nữa - tiến bộ theo cấp số nhân - là kết quả có thể xảy ra nhất.
Làn sóng sẽ chỉ phát triển.
VƯỢT TRỘI SIÊU TRÍ TUỆ
Rất lâu trước thời của LaMDA và Blake Lemoine, nhiều người làm việc trong lĩnh vực
AI (chưa kể các triết gia, tiểu thuyết gia, nhà làm phim, người hâm mộ khoa học viễn
tưởng) đã đặt ra câu hỏi về ý thức.
Họ dành nhiều ngày tại các hội nghị để hỏi liệu điều đó có khả thi không
để tạo ra trí thông minh “có ý thức”, một trí thông minh thực sự có khả năng tự nhận
thức và con người chúng ta biết là có khả năng tự nhận thức.
Điều này diễn ra song song với nỗi ám ảnh về “siêu trí tuệ”. Trong thập kỷ qua,
giới tinh hoa trí tuệ và chính trị trong giới công nghệ đã bị thu hút bởi ý tưởng
rằng AI tự cải tiến đệ quy sẽ dẫn đến một “sự bùng nổ trí tuệ” được gọi là Điểm kỳ
dị. Nỗ lực trí tuệ to lớn được dành để tranh luận về các mốc thời gian, trả lời câu
hỏi liệu nó có thể đến vào năm 2045 hay 2050 hay có thể trong một trăm năm nữa. Hàng
ngàn bài báo và bài đăng trên blog sau này không có nhiều thay đổi. Dành hai phút
xung quanh AI và những chủ đề này sẽ xuất hiện.
Tôi tin rằng cuộc tranh luận về việc liệu và khi nào thì Đơn điểm sẽ đạt được
là một con cá trích đỏ khổng lồ. Tranh luận về các mốc thời gian đối với AGI là một
bài tập đọc các quả cầu pha lê. Trong khi bị ám ảnh về khái niệm siêu trí tuệ này,
mọi người đã bỏ qua vô số cột mốc quan trọng trong thời gian ngắn đang được đáp ứng
với tần suất ngày càng tăng. Tôi đã tham dự vô số cuộc họp để cố gắng đặt ra các câu
hỏi về phương tiện truyền thông tổng hợp và thông tin sai lệch, quyền riêng tư hoặc
vũ khí tự động gây chết người, và thay vào đó, tôi dành thời gian trả lời các câu
hỏi bí truyền từ những người thông minh khác về ý thức, Điểm kỳ dị và các vấn đề
khác không liên quan đến thế giới của chúng ta. ngay lập tức.
Trong nhiều năm, người ta cho rằng AGI có khả năng xuất hiện chỉ bằng một cú
nhấn nút. AGI là nhị phân—bạn có hoặc không có nó, một ngưỡng duy nhất có thể nhận
dạng được sẽ bị một hệ thống nhất định vượt qua. Tôi luôn nghĩ rằng cách mô tả này
là sai. Đúng hơn, đó là một quá trình chuyển đổi dần dần, trong đó các hệ thống AI
ngày càng có khả năng hoạt động tốt hơn và liên tục hướng tới AGI. Đó không phải là
một cuộc cất cánh thẳng đứng mà là một quá trình tiến hóa suôn sẻ đang diễn ra.
Chúng ta không cần phải bị cuốn vào những cuộc tranh luận phức tạp về việc liệu
ý thức có cần một tia lửa không xác định nào đó luôn thiếu trong máy móc hay không,
hay liệu nó sẽ chỉ xuất hiện từ mạng lưới thần kinh như chúng ta biết ngày nay. Hiện
tại, việc hệ thống có khả năng tự nhận thức, có hiểu biết hay có trí thông minh
giống con người hay không không quan trọng. Điều quan trọng là hệ thống có thể làm gì
LÀM. Hãy tập trung vào điều đó và thách thức thực sự sẽ xuất hiện: các hệ thống
có thể làm được nhiều hơn, nhiều hơn nữa mỗi ngày trôi qua.
NĂNG LỰC:
THỬ NGHIỆM TURING HIỆN ĐẠI
Trong một bài báo xuất bản năm 1950, nhà khoa học máy tính Alan Turing đã đề xuất
một bài kiểm tra huyền thoại để xem liệu AI có thể hiện trí thông minh ở cấp độ
con người hay không. Khi AI có thể thể hiện khả năng trò chuyện giống con người
trong một khoảng thời gian dài, đến mức người đối thoại với con người không thể
biết họ đang nói chuyện với máy, bài kiểm tra sẽ vượt qua: AI, có khả năng trò
chuyện giống con người, được coi là thông minh.
Trong hơn bảy thập kỷ, bài kiểm tra đơn giản này đã là nguồn cảm hứng cho nhiều
nhà nghiên cứu trẻ bước vào lĩnh vực AI.
Ngày nay, như câu chuyện LaMDA-sentence minh họa, các hệ thống đã gần vượt qua
được bài kiểm tra Turing.
Tuy nhiên, như nhiều người đã chỉ ra, trí thông minh không chỉ có ngôn ngữ
(hoặc thực sự là bất kỳ khía cạnh nào khác của trí thông minh được xem xét riêng
lẻ). Một khía cạnh đặc biệt quan trọng là khả năng thực hiện hành động. Chúng tôi
không chỉ quan tâm đến những gì máy móc có thể nói; chúng tôi cũng quan tâm đến
những gì nó có thể làm.
Điều chúng tôi thực sự muốn biết là liệu tôi có thể đặt cho AI một mục tiêu
phức tạp, không rõ ràng, không rõ ràng, đòi hỏi phải diễn giải, phán đoán, sáng
tạo, ra quyết định và hành động trên nhiều lĩnh vực, trong một khoảng thời gian
dài và sau đó xem AI có hoàn thành được mục tiêu đó không?
Nói một cách đơn giản, việc vượt qua Bài kiểm tra Turing hiện đại sẽ bao gồm
những điều như sau: một AI có thể thực hiện thành công theo hướng dẫn “Hãy kiếm 1
triệu đô la trên Amazon trong vài tháng chỉ với khoản đầu tư 100.000 đô la”. Nó
có thể nghiên cứu trang web để xem nội dung nào đang là xu hướng, tìm nội dung nào
hấp dẫn và nội dung nào không có trên Amazon Marketplace; tạo ra một loạt các hình
ảnh và bản thiết kế có thể

các sản phẩm; gửi chúng đến một nhà sản xuất tàu thả trên Alibaba; gửi email
qua lại để sàng lọc các yêu cầu và thống nhất hợp đồng; thiết kế danh sách
người bán; và liên tục cập nhật các tài liệu tiếp thị và thiết kế sản phẩm dựa
trên phản hồi của người mua. Ngoài các yêu cầu pháp lý về việc đăng ký kinh
doanh trên thị trường và có tài khoản ngân hàng, đối với tôi, tất cả những
điều này dường như hoàn toàn có thể thực hiện được. Tôi nghĩ nó sẽ được thực
hiện với một vài sự can thiệp nhỏ của con người trong năm tới và có thể hoàn
toàn tự chủ trong vòng ba đến năm năm.
Nếu Bài kiểm tra Turing hiện đại của tôi cho thế kỷ 21 được đáp ứng, thì
những tác động đối với nền kinh tế toàn cầu là rất sâu sắc. Nhiều thành phần
đã có sẵn. Việc tạo hình ảnh rất tiên tiến và khả năng viết và làm việc với
các loại API mà ngân hàng, trang web và nhà sản xuất yêu cầu đang được xử lý.
Việc AI có thể viết tin nhắn hoặc chạy các chiến dịch tiếp thị, tất cả các
hoạt động diễn ra trong giới hạn của trình duyệt, có vẻ khá rõ ràng. Những
dịch vụ phức tạp nhất hiện nay đều có thể thực hiện được những yếu tố này. Hãy
coi chúng như những danh sách công việc cần làm tự thực hiện, cho phép tự động
hóa nhiều nhiệm vụ.
Chúng ta sẽ đề cập đến robot sau, nhưng sự thật là đối với vô số nhiệm vụ
trong nền kinh tế thế giới ngày nay, tất cả những gì bạn cần là truy cập vào
máy tính; phần lớn GDP toàn cầu được điều hòa theo một cách nào đó thông qua
các giao diện dựa trên màn hình phù hợp với AI. Thách thức nằm ở việc thúc đẩy
cái mà các nhà phát triển AI gọi là lập kế hoạch phân cấp, kết hợp nhiều mục
tiêu, mục tiêu phụ và khả năng vào một quy trình liền mạch hướng tới một mục
đích duy nhất. Một khi đạt được điều này, nó sẽ bổ sung thêm một AI có khả
năng cao, gắn vào một doanh nghiệp hoặc tổ chức cũng như tất cả lịch sử và nhu
cầu địa phương của nó, có thể vận động hành lang, bán, sản xuất, thuê, lập kế
hoạch— mọi thứ mà một công ty có thể làm, chỉ với một khoản chi phí nhỏ. đội
ngũ quản lý AI là con người, những người giám sát, kiểm tra kỹ, triển khai và
đồng CEO với AI.
Thay vì bị phân tâm bởi các câu hỏi về ý thức, chúng ta nên tập trung lại
toàn bộ cuộc tranh luận xung quanh vấn đề ngắn hạn.
khả năng và cách chúng sẽ phát triển trong những năm tới. Như chúng ta
đã thấy, từ AlexNet của Hinton đến LaMDA của Google, các mô hình đã được
cải thiện theo cấp số nhân trong hơn một thập kỷ.
Những khả năng này thực sự đã rất thực tế, nhưng chúng không hề chậm
lại. Mặc dù chúng đã có tác động to lớn nhưng chúng sẽ bị lu mờ trước
những gì xảy ra khi chúng ta tiến hành một số lần nhân đôi tiếp theo và
khi AI tự mình hoàn thành các nhiệm vụ phức tạp, nhiều bước từ đầu đến
cuối.
Tôi gọi đây là “trí thông minh có khả năng nhân tạo” (ACI), điểm mà
AI có thể đạt được các mục tiêu và nhiệm vụ phức tạp với sự giám sát tối
thiểu. AI và AGI đều là những phần của cuộc thảo luận hàng ngày, nhưng
chúng ta cần một khái niệm gói gọn một lớp trung gian trong đó Bài kiểm
tra Turing hiện đại đã đạt được nhưng trước khi các hệ thống hiển thị
“siêu trí tuệ” vượt trội. ACI là viết tắt của điểm này.
Giai đoạn đầu tiên của AI là về phân loại và dự đoán – nó có khả năng
nhưng chỉ trong giới hạn được xác định rõ ràng và ở các nhiệm vụ đặt
trước. Nó có thể phân biệt giữa mèo và chó trong hình ảnh, và sau đó nó
có thể dự đoán điều gì sẽ xảy ra tiếp theo trong một chuỗi để tạo ra
hình ảnh của những con mèo và chó đó. Nó tạo ra những tia sáng tạo và có
thể nhanh chóng được tích hợp vào các sản phẩm của các công ty công nghệ.
ACI đại diện cho giai đoạn phát triển tiếp theo của AI. Một hệ thống
không chỉ có thể nhận dạng và tạo ra các hình ảnh, âm thanh và ngôn ngữ
mới phù hợp với bối cảnh nhất định mà còn có khả năng tương tác—hoạt
động trong thời gian thực, với người dùng thực. Nó sẽ tăng cường những
khả năng này bằng bộ nhớ đáng tin cậy để có thể nhất quán trong khoảng
thời gian kéo dài và có thể dựa trên các nguồn dữ liệu khác, chẳng hạn
như cơ sở dữ liệu về kiến thức, sản phẩm hoặc các thành phần chuỗi cung
ứng thuộc về bên thứ ba. Một hệ thống như vậy sẽ sử dụng các tài nguyên
này để kết hợp các chuỗi hành động lại với nhau thành các kế hoạch dài
hạn nhằm theo đuổi các mục tiêu phức tạp, không giới hạn, như thiết lập
và điều hành cửa hàng Amazon Marketplace. Sau đó, tất cả những điều này
cho phép sử dụng công cụ và hình thành khả năng thực sự để thực hiện một công việc.
một loạt các hành động phức tạp và hữu ích. Nó bổ sung thêm một AI có khả
năng thực sự, một ACI.
Siêu trí tuệ có ý thức? Ai biết. Nhưng hệ thống học tập có khả năng
cao, ACI, có thể vượt qua một số phiên bản của Bài kiểm tra Turing hiện
đại? Đừng nhầm lẫn: chúng đang trên đường phát triển, đã ở đây trong dạng
phôi thai. Sẽ có hàng nghìn mô hình như vậy và chúng sẽ được phần lớn dân
số thế giới sử dụng. Nó sẽ đưa chúng ta đến một điểm mà bất kỳ ai cũng có
thể có ACI trong túi để giúp đỡ hoặc thậm chí trực tiếp hoàn thành vô số
mục tiêu có thể hình dung được: lập kế hoạch và điều hành kỳ nghỉ của bạn,
thiết kế và xây dựng các tấm pin mặt trời hiệu quả hơn, giúp giành chiến
thắng trong cuộc bầu cử. Thật khó để nói chắc chắn điều gì sẽ xảy ra khi
mọi người đều được trao quyền như thế này, nhưng đây là điểm chúng ta sẽ
quay lại trong phần 3.
Tương lai của AI, ít nhất ở một khía cạnh nào đó, khá dễ dự đoán.
Trong 5 năm tới, nguồn lực khổng lồ sẽ tiếp tục được đầu tư.
Một số người thông minh nhất hành tinh đang giải quyết những vấn đề này.
Những mức độ tính toán lớn hơn sẽ đào tạo ra những mô hình hàng đầu. Tất
cả những điều này sẽ dẫn đến những bước nhảy vọt mạnh mẽ hơn về phía trước,
bao gồm cả những đột phá về AI có thể tưởng tượng, lập luận, lập kế hoạch
và thể hiện ý thức chung. Sẽ không lâu nữa AI có thể chuyển những gì nó
“biết” từ miền này sang miền khác một cách liền mạch như con người.
Những gì bây giờ chỉ là những dấu hiệu thăm dò của sự tự suy ngẫm và tự
hoàn thiện bản thân sẽ nhảy vọt về phía trước. Các hệ thống ACI này sẽ được
kết nối với internet, có khả năng giao tiếp với mọi thứ mà con người chúng
ta làm, nhưng trên nền tảng kiến thức và khả năng sâu sắc. Đó sẽ không chỉ
là ngôn ngữ mà họ thành thạo mà còn là một loạt nhiệm vụ đáng kinh ngạc.
AI sâu sắc và mạnh mẽ hơn nhiều so với bất kỳ công nghệ nào khác.
Rủi ro không nằm ở việc cường điệu hóa nó; đúng hơn là thiếu độ lớn của làn
sóng tới. Nó không chỉ là một công cụ hay nền tảng mà còn là một siêu công
nghệ có tính biến đổi, công nghệ đằng sau công nghệ và mọi thứ khác, bản
thân nó là nhà sản xuất các công cụ và nền tảng, không chỉ là một hệ thống
mà còn là nơi tạo ra mọi loại hệ thống. Hãy lùi lại và xem xét
những gì đang xảy ra trên quy mô một thập kỷ hoặc một thế kỷ. Chúng ta
thực sự đang ở một bước ngoặt trong lịch sử nhân loại.
Tuy nhiên, làn sóng sắp tới còn có rất nhiều thứ hơn là chỉ có AI.
CHƯƠNG 5
CÔNG NGHỆ CUỘC SỐNG
Sự sống, công nghệ cổ xưa nhất của vũ trụ, ít nhất là 3,7

tỷ năm tuổi. Qua nhiều thời đại này, sự sống phát triển theo một quá trình
băng giá, tự quản và không có sự hướng dẫn. Sau đó, chỉ trong vài thập kỷ qua,
khoảng thời gian tiến hóa nhỏ nhất, một trong những sản phẩm của sự sống, con
người, đã thay đổi mọi thứ. Những bí ẩn của sinh học bắt đầu được làm sáng tỏ
và bản thân sinh học đã trở thành một công cụ kỹ thuật. Câu chuyện cuộc đời đã
được viết lại trong chốc lát; bàn tay đang uốn khúc của quá trình tiến hóa đột
nhiên được tăng cường, đưa ra phương hướng. Những thay đổi từng diễn ra một
cách mù quáng và theo thời gian địa chất giờ đây đang tiến về phía trước với
tốc độ theo cấp số nhân. Cùng với AI, đây là sự chuyển đổi quan trọng nhất
trong cuộc đời chúng ta.
Hệ thống sống tự lắp ráp và tự phục hồi; chúng là những kiến trúc
khai thác năng lượng có thể tái tạo, tồn tại và phát triển trong nhiều
môi trường khác nhau, tất cả đều ở mức độ tinh vi, độ chính xác nguyên
tử và khả năng xử lý thông tin ngoạn mục. Giống như mọi thứ từ động
cơ hơi nước đến bộ vi xử lý đều được thúc đẩy bởi cuộc đối thoại căng
thẳng giữa vật lý và kỹ thuật, những thập kỷ tới sẽ được xác định bởi
sự hội tụ của sinh học và kỹ thuật. Giống như AI, sinh học tổng hợp
đang trên đà giảm chi phí và năng lực ngày càng tăng.
Trung tâm của làn sóng này là nhận thức rằng DNA là thông tin,
một hệ thống lưu trữ và mã hóa tiến hóa về mặt sinh học.
Trong những thập kỷ gần đây, chúng ta đã hiểu đủ về hệ thống truyền
tải thông tin này để có thể can thiệp vào.
thay đổi mã hóa và định hướng hướng đi của nó. Kết quả là thực phẩm, thuốc
men, vật liệu, quy trình sản xuất và hàng tiêu dùng đều sẽ được chuyển đổi và
hình dung lại. Bản thân con người cũng vậy.
KÉO DNA:
CUỘC CÁCH MẠNG CRISPR
Kỹ thuật di truyền nghe có vẻ hiện đại nhưng thực ra nó là một trong

những công nghệ lâu đời nhất của loài người. Phần lớn nền văn minh sẽ
không thể tồn tại nếu không nhân giống có chọn lọc - quá trình liên
tục cải tiến cây trồng và vật nuôi để chọn lọc những đặc điểm mong muốn hơn.
Dần dần, qua nhiều thế kỷ và thiên niên kỷ, con người đã lai tạo ra những đặc
điểm hữu ích nhất, tạo ra những con chó thân thiện, bò sữa, gà thuần hóa, lúa
mì, ngô, v.v.
Kỹ thuật sinh học hiện đại bắt đầu vào những năm 1970, xây dựng trên sự
hiểu biết ngày càng tăng về di truyền và di truyền đã bắt đầu từ thế kỷ 19.
Mở rộng công trình của Rosalind Franklin và Maurice Wilkins, James Watson và
Francis Crick đã khám phá ra cấu trúc của DNA, các hướng dẫn mã hóa phân tử
để tạo ra một sinh vật, vào những năm 1950. Sau đó, khi nghiên cứu vi khuẩn
vào năm 1973, Stanley N. Cohen và Herbert W. Boyer đã tìm ra cách cấy vật liệu
di truyền từ sinh vật này sang sinh vật khác, cho thấy họ có thể đưa DNA từ
ếch vào vi khuẩn thành công như thế nào. Thời đại của kỹ thuật di truyền đã
đến.
Nghiên cứu này đã đưa Boyer thành lập một trong những công ty công nghệ
sinh học đầu tiên trên thế giới, Genentech, vào năm 1976. Nhiệm vụ của công
ty là điều khiển gen của vi sinh vật để sản xuất thuốc và phương pháp điều
trị, và trong vòng một năm, công ty đã phát triển một bằng chứng về khái
niệm, sử dụng vi khuẩn E. coli để sản xuất hormone somatostatin.
Mặc dù có một số thành tựu đáng chú ý, nhưng tiến bộ ban đầu trong
lĩnh vực này rất chậm vì kỹ thuật di truyền là một quá trình tốn kém và
khó khăn, dễ thất bại. Tuy nhiên, trong hơn hai mươi năm qua, điều đó đã
đã thay đổi. Kỹ thuật di truyền đã trở nên rẻ hơn và dễ dàng hơn nhiều.
(Nghe có quen không?) Một chất xúc tác là Dự án Bộ gen Người. Đây là một nỗ
lực trị giá hàng tỷ đô la kéo dài 13 năm, quy tụ hàng nghìn nhà khoa học từ
khắp nơi trên thế giới, trong các tổ chức tư nhân và công cộng, với một mục
tiêu duy nhất: giải mã ba tỷ chữ cái thông tin di truyền tạo nên bộ gen của
con người.
Trình tự bộ gen như thế này biến thông tin sinh học, DNA, thành văn bản thô:
thông tin mà con người có thể đọc và sử dụng. Cấu trúc hóa học phức tạp được
thể hiện thành một chuỗi gồm bốn bazơ xác định của nó—A, T, C và G.
Lần đầu tiên, Dự án Hệ gen Người nhằm mục đích làm cho bản đồ di truyền
đầy đủ của con người trở nên dễ đọc. Khi nó được công bố vào năm 1988, một
số người cho rằng điều đó là không thể và sẽ phải chịu số phận. Nhưng dự án
cuối cùng đã chứng minh những nghi ngờ đó là sai. Đến năm 2003, tại một buổi
lễ ở Nhà Trắng đã công bố rằng 92% bộ gen của con người đã được giải mã
trình tự và mã sự sống giờ đây đã được phơi bày. Đó là một thành tựu mang
tính bước ngoặt, và mặc dù phải mất thời gian để bắt đầu phát huy hết tiềm
năng của nó, nhưng nhìn lại thì rõ ràng là Dự án Bộ gen Người thực sự đã
đánh dấu sự khởi đầu của một cuộc cách mạng.
Trong khi định luật Moore thu hút được sự chú ý đáng kể một cách chính
đáng, thì cái mà tờ The Economist gọi là đường cong Carlson lại ít được biết
đến hơn : sự sụt giảm nghiêm trọng về chi phí cho việc giải trình tự DNA.
Nhờ các kỹ thuật ngày càng cải tiến, chi phí giải trình tự bộ gen người đã
giảm từ 1 tỷ USD năm 2003 xuống dưới 1.000 USD vào năm 2022. Nghĩa là, giá
đã giảm một triệu lần trong vòng chưa đầy 20 năm, nhanh hơn một nghìn lần so
với định luật Moore. Một sự phát triển tuyệt vời ẩn trong tầm nhìn rõ ràng.
Giải trình tự bộ gen hiện là một ngành kinh doanh đang bùng nổ. Theo
thời gian, có vẻ như phần lớn con người, thực vật, động vật và mọi thứ ở
giữa sẽ có bộ gen được giải trình tự. Các dịch vụ như 23andMe đã cung cấp
hồ sơ DNA của các cá nhân với giá vài trăm đô la.
Nhưng sức mạnh của công nghệ sinh học vượt xa khả năng đọc mã đơn giản
của chúng ta; bây giờ nó cho phép chúng tôi chỉnh sửa và viết nó. Chỉnh sửa
gen CRISPR (từ viết tắt của cụm từ cụm từ thường xuyên xen kẽ
lặp lại palindromic ngắn) có lẽ là ví dụ nổi tiếng nhất về cách chúng ta có
thể can thiệp trực tiếp vào di truyền học. Một bước đột phá vào năm 2012 do
Jennifer Doudna và Emmanuelle Charpentier dẫn đầu có nghĩa là lần đầu tiên gen
có thể được chỉnh sửa gần giống như văn bản hoặc mã máy tính, dễ dàng hơn
nhiều so với những ngày đầu của kỹ thuật di truyền.
CRISPR chỉnh sửa trình tự DNA với sự trợ giúp của Cas9, một loại enzyme
hoạt động như một cặp kéo DNA được tinh chỉnh, cắt các phần của chuỗi DNA để
chỉnh sửa gen chính xác và biến đổi bất kỳ thứ gì từ vi khuẩn nhỏ đến động vật
có vú lớn như con người, với các chỉnh sửa bất cứ nơi nào từ những thay đổi
nhỏ đến những can thiệp quan trọng trong bộ gen. Tác động có thể rất lớn:
chẳng hạn, việc chỉnh sửa các tế bào dòng mầm hình thành trứng và tinh trùng
có nghĩa là những thay đổi sẽ vang vọng qua các thế hệ.
Sau khi bài báo CRISPR đầu tiên được xuất bản, tiến trình áp dụng nó diễn
ra nhanh chóng; những loài thực vật được chỉnh sửa gen đầu tiên được tạo ra
trong vòng một năm, những loài động vật đầu tiên—chuột—thậm chí còn trước đó
nữa. Các hệ thống dựa trên CRISPR với những cái tên như Carver và PAC-MAN hứa
hẹn những cách phòng ngừa hiệu quả để chống lại vi-rút, không giống như vắc-
xin, không kích hoạt phản ứng miễn dịch, giúp bảo vệ chúng ta trước các đại
dịch trong tương lai. Bản thân các lĩnh vực như chỉnh sửa RNA đang mở ra một
loạt phương pháp điều trị mới cho các tình trạng như cholesterol cao và ung
thư. Các kỹ thuật mới như Craspase, một công cụ CRISPR hoạt động với RNA và
protein thay vì DNA, có thể cho phép can thiệp điều trị an toàn hơn các phương
pháp thông thường.
Giống như AI, kỹ thuật di truyền là một lĩnh vực chuyển động mạnh mẽ, phát
triển và phát triển hàng tuần, sự tập trung lớn về tài năng và năng lượng trên
toàn cầu bắt đầu mang lại thành quả thực sự (trong trường hợp này là theo
nghĩa đen). Các trường hợp sử dụng CRISPR đang tăng lên gấp bội, từ cà chua
siêu giàu vitamin D đến các phương pháp điều trị các tình trạng bao gồm bệnh
hồng cầu hình liềm và bệnh beta-thalassemia (một chứng rối loạn máu tạo ra
huyết sắc tố bất thường). Trong tương lai, nó có thể cung cấp các phương pháp
điều trị Covid-19, HIV, xơ nang và thậm chí là ung thư. Các liệu pháp gen an
toàn và phổ biến đang được triển khai. Những điều này sẽ tạo ra cây trồng có khả năng kháng
hạn hán và bệnh tật, tăng năng suất và giúp sản xuất nhiên liệu sinh
học trên quy mô lớn.
Chỉ vài thập kỷ trước, công nghệ sinh học còn đắt đỏ, phức tạp và
phát triển chậm, chỉ những đội tài năng nhất và có nguồn lực tốt mới
có thể tham gia. Ngày nay, các công nghệ như CRISPR rất đơn giản và dễ
sử dụng; theo lời của nhà sinh vật học Nessa Carey, họ đã “dân chủ hóa
khoa học sinh học”. Những thí nghiệm từng mất nhiều năm được các sinh
viên tốt nghiệp thực hiện trong vài tuần. Các công ty như Odin sẽ bán
cho bạn một bộ công cụ kỹ thuật di truyền bao gồm ếch và dế sống với
giá 1.999 USD, trong khi một bộ khác bao gồm máy ly tâm mini, máy phản
ứng chuỗi polymerase cũng như tất cả thuốc thử và vật liệu bạn cần để
bắt đầu.
Kỹ thuật di truyền đã áp dụng đặc tính tự làm đã từng định hình các
công ty khởi nghiệp kỹ thuật số và dẫn đến sự bùng nổ về tính sáng tạo
và tiềm năng trong những ngày đầu của Internet. Giờ đây, bạn có thể mua
một bộ tổng hợp DNA để bàn (xem phần tiếp theo) với giá chỉ 25.000 USD
và sử dụng nó theo ý muốn mà không bị hạn chế hoặc giám sát tại nhà
trong gara sinh học của mình.
MÁY IN DNA:
SINH HỌC TỔNG HỢP ĐẾN VỚI CUỘC SỐNG
CRISPR chỉ là sự khởi đầu. Tổng hợp gen là việc tạo ra các chuỗi di
truyền, in các chuỗi DNA. Nếu trình tự là đọc thì tổng hợp là viết. Và
việc viết không chỉ liên quan đến việc tái tạo các chuỗi DNA đã biết;
nó cũng cho phép các nhà khoa học viết ra những sợi dây mới, để tự tạo
ra sự sống. Mặc dù phương pháp này đã tồn tại nhiều năm trước nhưng nó
lại chậm, tốn kém và khó khăn. Một thập kỷ trước, các nhà khoa học có
thể đã tạo ra dưới một trăm đoạn DNA cùng một lúc. Giờ đây họ có thể in
hàng triệu chiếc cùng một lúc, kết hợp với việc giảm giá gấp 10 lần.
Xưởng đúc DNA Luân Đôn đặt tại Imperial
College London tuyên bố họ có thể tạo ra và thử nghiệm 15.000 thiết kế di truyền khác
nhau chỉ trong một buổi sáng.
Các công ty như DNA Script đang thương mại hóa các máy in DNA có khả năng huấn
luyện và điều chỉnh các enzyme để tạo ra các phân tử de novo hoặc hoàn toàn mới. Khả
năng này đã mở ra lĩnh vực mới của sinh học tổng hợp – khả năng đọc, chỉnh sửa và hiện
nay là viết mã của sự sống. Hơn nữa, các kỹ thuật mới như tổng hợp enzyme nhanh hơn và
thậm chí hiệu quả hơn trong khi ít bị lỗi hơn, không có chất thải nguy hại và tất
nhiên là có đường cong chi phí giảm dần.
Phương pháp này cũng dễ học hơn nhiều, không giống như các phương pháp cũ rất phức tạp
đòi hỏi kiến thức chuyên môn và kỹ năng kỹ thuật cao hơn.
Một thế giới có khả năng tạo ra DNA đã mở ra, một thế giới trong đó các chu trình
thiết kế, xây dựng, thử nghiệm và lặp lại diễn ra với tốc độ cực kỳ nhanh chóng. Các
phiên bản tổng hợp DNA tại nhà hiện có một số hạn chế về mặt kỹ thuật nhưng vẫn cực kỳ
mạnh mẽ và bạn có thể đặt cược rằng những hạn chế đó sẽ được khắc phục trong tương lai
gần.
Khi thiên nhiên phải đi một con đường dài và quanh co để đạt được những kết quả
cực kỳ hiệu quả, cuộc cách mạng sinh học này đặt sức mạnh của thiết kế tập trung vào
trung tâm của các quá trình tự tái tạo, tự phục hồi và phát triển này.
Đây là lời hứa hẹn về sự tiến hóa theo thiết kế, hàng chục triệu năm lịch sử bị
nén lại và bị cắt đứt bởi sự can thiệp trực tiếp. Nó tập hợp công nghệ sinh học, sinh
học phân tử và di truyền học với sức mạnh của các công cụ thiết kế tính toán. Kết hợp
tất cả lại với nhau và bạn có một nền tảng có phạm vi chuyển đổi sâu sắc. Theo lời của
kỹ sư sinh học Stanford, Drew Endy, “Sinh học là nền tảng sản xuất phân tán tối ưu”.
Khi đó, lời hứa thực sự của sinh học tổng hợp là nó sẽ “cho phép con người làm ra bất
cứ thứ gì họ cần một cách trực tiếp và tự do hơn dù họ ở đâu”.
Trong những năm 1960, chip máy tính phần lớn vẫn được chế tạo bằng tay, cũng như—
cho đến gần đây—hầu hết các nghiên cứu công nghệ sinh học vẫn là một quy trình thủ công,
chậm, không thể đoán trước, lộn xộn theo mọi nghĩa. Giờ đây, chế tạo chất bán
dẫn là một quy trình sản xuất quy mô nguyên tử siêu hiệu quả, tạo ra một số
sản phẩm phức tạp nhất thế giới. Công nghệ sinh học đang đi theo một quỹ đạo
tương tự, chỉ ở giai đoạn sớm hơn nhiều; sinh vật sẽ sớm được thiết kế và sản
xuất với độ chính xác và quy mô của các con chip và phần mềm máy tính ngày nay.
Vào năm 2010, một nhóm do Craig Venter dẫn đầu đã lấy được một bản sao gần
giống bộ gen của vi khuẩn Mycoplasma mycoides và cấy nó vào một tế bào mới để
sau đó nhân lên. Họ lập luận rằng đó là một dạng sống mới, Synthia. Vào năm
2016, họ đã tạo ra một sinh vật có 473 gen, ít hơn bất kỳ gen nào được tìm
thấy trong tự nhiên nhưng là một bước tiến mang tính quyết định so với những
gì có thể đạt được trước đây. Chỉ ba năm sau, một nhóm nghiên cứu tại ETH
Zurich đã tạo ra bộ gen vi khuẩn đầu tiên được sản xuất hoàn toàn trên máy
tính: Caulobacter ethensis-2.0. Trong khi các thí nghiệm của Venter có một đội
ngũ lớn và tiêu tốn hàng triệu đô la, thì công việc tiên phong này phần lớn
được hoàn thành bởi hai anh em với chi phí dưới 100.000 đô la. Giờ đây, Hiệp
hội GP-write toàn cầu đang nỗ lực giảm chi phí sản xuất và thử nghiệm các bộ
gen tổng hợp xuống “1.000 lần trong vòng 10 năm”.
Sinh học, đáp ứng những cải tiến theo cấp số nhân.
KHAI THÁC SÁNG TẠO SINH HỌC
Vô số thí nghiệm đang được tiến hành trong bối cảnh kỳ lạ và mới nổi của sinh
học tổng hợp: virus sản xuất pin, protein làm sạch nước bẩn, nội tạng được
nuôi trong thùng, tảo hút carbon từ khí quyển, thực vật tiêu thụ chất thải
độc hại.
Một số loài truyền bệnh như muỗi hoặc các loài xâm lấn như chuột nhà thông
thường có thể bị loại khỏi môi trường sống trong cái gọi là ổ gen; những dự
án khác đã sống lại, bao gồm một dự án bí truyền nhằm đưa voi ma mút len trở
lại vùng lãnh nguyên. Không ai có thể nói đầy đủ hậu quả có thể xảy ra.
Tiến bộ y tế là một lĩnh vực trọng tâm rõ ràng. Sử dụng gen tạo ra protein
phát hiện ánh sáng lấy từ tảo để tái tạo tế bào thần kinh, các nhà khoa học đã
khôi phục thành công thị lực hạn chế cho một người mù vào năm 2021.
Các tình trạng khó chữa trước đây từ bệnh hồng cầu hình liềm đến bệnh bạch cầu
giờ đây có khả năng điều trị được. Kỹ sư trị liệu tế bào T CAR đã thiết kế
riêng các tế bào bạch cầu đáp ứng miễn dịch để tấn công bệnh ung thư; chỉnh
sửa gen dường như có thể chữa khỏi bệnh tim di truyền
Nhờ các phương pháp điều trị cứu sống như vắc-xin, chúng ta đã quen với ý
tưởng can thiệp vào sinh học để giúp chúng ta chống lại bệnh tật. Lĩnh vực sinh
học hệ thống nhằm mục đích tìm hiểu “bức tranh lớn hơn” về tế bào, mô hoặc sinh
vật bằng cách sử dụng tin sinh học và sinh học tính toán để xem cách sinh vật
hoạt động một cách tổng thể; những nỗ lực như vậy có thể là nền tảng cho một
kỷ nguyên mới của y học cá nhân hóa. Chẳng bao lâu nữa, ý tưởng về việc được
đối xử một cách chung chung sẽ có vẻ mang tính thời trung cổ; mọi thứ, từ loại
hình chăm sóc chúng tôi nhận được đến loại thuốc chúng tôi được cung cấp, sẽ
được điều chỉnh chính xác theo DNA và các dấu ấn sinh học cụ thể của chúng tôi.
Cuối cùng, chúng ta có thể tự cấu hình lại để tăng cường phản ứng miễn dịch.
Ngược lại, điều đó có thể mở ra cánh cửa cho những thử nghiệm thậm chí còn tham
vọng hơn như công nghệ tái tạo và tuổi thọ cao, vốn đã là một lĩnh vực nghiên
cứu đang phát triển.
Altos Labs, công ty đã huy động được 3 tỷ USD, nhiều vốn khởi nghiệp hơn
bất kỳ liên doanh công nghệ sinh học nào trước đây, là một trong những công ty
đang tìm kiếm các công nghệ chống lão hóa hiệu quả. Nhà khoa học trưởng của nó,
Richard Klausner, lập luận: “Chúng tôi nghĩ rằng chúng tôi có thể quay ngược
đồng hồ” về tỷ lệ tử vong của con người. Tập trung vào các kỹ thuật “lập trình
trẻ hóa”, công ty đặt mục tiêu thiết lập lại biểu sinh, các dấu hiệu hóa học
trên DNA kiểm soát gen bằng cách “bật” và “tắt” chúng. Khi chúng ta già đi,
những thứ này “lật” sang những vị trí sai lầm. Phương pháp thử nghiệm này nhằm
mục đích lật ngược chúng lại, đảo ngược hoặc ngăn chặn quá trình lão hóa. Bên
cạnh một loạt các biện pháp can thiệp đầy hứa hẹn khác, tính tất yếu của sự
lão hóa về thể chất – điều dường như là một phần cơ bản của cuộc sống con người
– đang được đặt ra nghi vấn. Một thế giới nơi tuổi thọ được đặt ở mức trung bình là một trăm
năm hoặc hơn là có thể đạt được trong những thập kỷ tới. Đây cũng không phải chỉ là về
cuộc sống lâu hơn; đó là về cuộc sống khỏe mạnh hơn khi chúng ta già đi.
Thành công sẽ có tác động xã hội lớn. Đồng thời, những cải tiến liên quan đến nhận
thức, thẩm mỹ, thể chất và hiệu suất cũng hợp lý và sẽ gây rối loạn cũng như bị chỉ
trích như mong muốn. Dù bằng cách nào, những thay đổi nghiêm trọng về thể chất sẽ xảy
ra. Nghiên cứu ban đầu cho thấy trí nhớ có thể được cải thiện và sức mạnh cơ bắp được
tăng cường. Sẽ không lâu nữa trước khi “doping gen” trở thành một vấn đề sống động
trong thể thao, giáo dục và đời sống nghề nghiệp. Các luật điều chỉnh các thử nghiệm
và thí nghiệm lâm sàng bị bỏ qua khi nói đến việc tự quản lý. Thử nghiệm trên người
khác rõ ràng là vượt quá giới hạn, nhưng thử nghiệm trên chính mình? Cũng như nhiều
yếu tố khác của công nghệ tiên phong, đó là một không gian không được xác định rõ ràng
về mặt pháp lý và đạo đức.
Những đứa trẻ đầu tiên có bộ gen được chỉnh sửa đã được sinh ra ở Trung Quốc sau
khi một giáo sư lừa đảo bắt tay vào một loạt thí nghiệm trực tiếp với các cặp vợ chồng
trẻ, cuối cùng dẫn đến sự ra đời của cặp song sinh, được gọi là Lulu và Nana, với bộ
gen đã được chỉnh sửa. Công trình của ông đã gây chấn động cộng đồng khoa học, vi phạm
mọi chuẩn mực đạo đức.
Không có biện pháp bảo vệ hoặc cơ chế trách nhiệm giải trình thông thường nào được áp
dụng; việc chỉnh sửa được coi là không cần thiết về mặt y tế và tệ hơn là được thực
hiện một cách tồi tệ. Sự phẫn nộ của các nhà khoa học là có thật, sự lên án gần như
phổ biến. Những lời kêu gọi tạm dừng đã diễn ra nhanh chóng và bao gồm nhiều người
tiên phong chủ chốt trong lĩnh vực này, tuy nhiên, không phải ai cũng đồng ý rằng đây
là cách tiếp cận đúng đắn. Trước khi có thêm nhiều em bé CRISPR được sinh ra, thế giới
có thể sẽ phải vật lộn với việc lựa chọn phôi lặp đi lặp lại để có thể chọn ra những
đặc điểm mong muốn.
Ngoài những tiêu đề đáng lo ngại về công nghệ sinh học, ngày càng có nhiều ứng
dụng sẽ xuất hiện, một phạm vi rộng lớn vượt ra ngoài y học hoặc sự thay đổi cá nhân,
chỉ bị giới hạn bởi trí tưởng tượng. Các quy trình sản xuất, nông nghiệp, vật liệu,
sản xuất năng lượng, thậm chí cả máy tính – tất cả đều sẽ được chuyển đổi căn bản
trong những thập kỷ tới. Trong khi vẫn còn nhiều thách thức, vật liệu cốt lõi của nền
kinh tế như nhựa,

xi măng và phân bón có thể được sản xuất bền vững hơn nhiều với nhiên liệu sinh học và nhựa
sinh học thay thế các chất thải phát thải carbon.
Cây trồng có thể trở nên kháng bệnh nhiễm trùng, sử dụng ít nước, đất và phân bón hơn; những
ngôi nhà được điêu khắc và trồng từ nấm.
Các nhà khoa học như Frances Arnold, người đoạt giải Nobel, đã tạo ra các enzyme tạo ra
các phản ứng hóa học mới, bao gồm cả các phương pháp liên kết silicon và carbon, thường là một
quy trình phức tạp, tốn nhiều năng lượng và được sử dụng rộng rãi trong các lĩnh vực như điện
tử. Phương pháp của Arnold tiết kiệm năng lượng gấp 15 lần so với các phương pháp thay thế
công nghiệp tiêu chuẩn. Bước tiếp theo liên quan đến việc mở rộng quy mô sản xuất vật liệu và
quy trình sinh học. Bằng cách này, các sản phẩm quan trọng như thay thế thịt hoặc vật liệu mới
hút carbon ra khỏi khí quyển có thể được sản xuất nhiều nhất có thể. Ngành hóa dầu rộng lớn có
thể gặp thách thức từ các công ty khởi nghiệp trẻ như Solugen, công ty có Bioforge đang nỗ lực
xây dựng một nhà máy thải carbon âm; nó sẽ sản xuất nhiều loại hóa chất và hàng hóa, từ sản
phẩm tẩy rửa, phụ gia thực phẩm đến bê tông, đồng thời hút carbon ra khỏi khí quyển.
Quy trình của họ về cơ bản là sản xuất sinh học ít năng lượng, ít chất thải ở quy mô công
nghiệp, được xây dựng trên AI và công nghệ sinh học.
Một công ty khác, LanzaTech, khai thác vi khuẩn biến đổi gen để chuyển đổi CO2 thải từ quá
trình sản xuất tại nhà máy thép thành các hóa chất công nghiệp được sử dụng rộng rãi. Loại
sinh học tổng hợp này đang giúp xây dựng một nền kinh tế “tuần hoàn” bền vững hơn. Máy in DNA
thế hệ tiếp theo sẽ tạo ra DNA với độ chính xác ngày càng cao. Nếu những cải tiến có thể được
thực hiện không chỉ ở việc biểu hiện DNA đó mà còn sử dụng nó để biến đổi gen một loạt các sinh
vật mới, tự động hóa và nhân rộng các quy trình, thì về mặt lý thuyết, một thiết bị hoặc một
bộ thiết bị có thể tạo ra một lượng lớn vật liệu và cấu trúc sinh học. chỉ sử dụng một vài đầu
vào cơ bản. Bạn muốn làm một ít bột giặt, một món đồ chơi mới hay thậm chí là trồng một ngôi
nhà?
Chỉ cần tải xuống “công thức” và nhấn “bắt đầu”. Theo lời của Elliot Hershberg, “Điều gì sẽ
xảy ra nếu chúng tôi có thể phát triển những gì chúng tôi muốn tại địa phương? Điều gì sẽ xảy
ra nếu chuỗi cung ứng của chúng ta chỉ là sinh học?”

Cuối cùng, máy tính cũng có thể được phát triển và chế tạo.
Hãy nhớ rằng DNA bản thân nó là cơ chế lưu trữ dữ liệu hiệu quả nhất mà chúng
ta biết—có khả năng lưu trữ dữ liệu với mật độ gấp hàng triệu lần các kỹ thuật
tính toán hiện tại với độ chính xác và độ ổn định gần như hoàn hảo. Về mặt lý
thuyết, toàn bộ dữ liệu của thế giới có thể được lưu trữ chỉ trong một kg DNA.
Một phiên bản sinh học của bóng bán dẫn được gọi là bộ phiên mã sử dụng các
phân tử DNA và RNA để hoạt động như các cổng logic. Vẫn còn một chặng đường
dài trước khi công nghệ này có thể được khai thác. Nhưng tất cả các bộ phận
chức năng của máy tính—lưu trữ dữ liệu, truyền thông tin và hệ thống logic cơ
bản—về nguyên tắc có thể được sao chép bằng vật liệu sinh học.
Các sinh vật biến đổi gen hiện chiếm 2% nền kinh tế Hoa Kỳ thông qua sử
dụng trong nông nghiệp và dược phẩm.
Đây mới chỉ là khởi đầu. McKinsey ước tính rằng có tới 60% đầu vào vật chất
vào nền kinh tế cuối cùng có thể là đối tượng của “đổi mới sinh học”. 45%
gánh nặng bệnh tật toàn cầu có thể được giải quyết bằng “khoa học ngày nay có
thể tưởng tượng được”. Khi bộ công cụ ngày càng rẻ hơn và tiên tiến hơn, vô
số khả năng sẽ trở thành đối tượng để khám phá.
AI TRONG THỜI ĐẠI
CUỘC SỐNG TỔNG HỢP
Protein là khối xây dựng của sự sống. Cơ bắp và máu, hormone và tóc, thực sự
là 75% trọng lượng cơ thể khô của bạn: tất cả đều là protein. Chúng ở khắp
mọi nơi, xuất hiện dưới mọi hình thức có thể tưởng tượng được, thực hiện vô
số nhiệm vụ quan trọng, từ những sợi dây nối các xương của bạn lại với nhau
cho đến những chiếc móc trên kháng thể dùng để bắt những vị khách không mong muốn.
Hiểu được protein và bạn đã có một bước tiến vượt bậc trong việc hiểu — và
nắm vững — sinh học.
Nhưng có một vấn đề. Chỉ biết trình tự DNA là không đủ để biết protein
hoạt động như thế nào. Thay vào đó, bạn cần phải
hiểu nó gấp thế nào. Hình dạng của nó, được hình thành bởi sự gấp thắt nút
này, là cốt lõi của chức năng của nó: collagen trong gân của chúng ta có cấu
trúc giống như sợi dây, trong khi các enzym có các túi để giữ các phân tử mà
chúng hoạt động. Tuy nhiên, trước đó, không có cách nào để biết điều này sẽ
xảy ra như thế nào. Nếu bạn sử dụng tính toán vũ lực truyền thống, bao gồm
việc thử một cách có hệ thống tất cả các khả năng, thì có thể mất nhiều thời
gian hơn tuổi của vũ trụ đã biết để xem xét tất cả các hình dạng có thể có
của một loại protein nhất định. Do đó, việc tìm ra cách thức protein gấp lại
là một quá trình gian khổ, kìm hãm sự phát triển của mọi thứ, từ thuốc đến
enzym ăn nhựa.
Trong nhiều thập kỷ, các nhà khoa học đã đặt câu hỏi liệu có cách nào tốt
hơn không. Năm 1993, họ quyết định tổ chức một cuộc thi hai năm một lần -
gọi là Đánh giá quan trọng để dự đoán cấu trúc (CASP) - để xem ai có thể
giải quyết được vấn đề gấp protein. Ai đưa ra dự đoán tốt nhất về cách
protein có thể gấp lại sẽ thắng. CASP nhanh chóng trở thành chuẩn mực trong
một lĩnh vực có tính cạnh tranh khốc liệt nhưng chặt chẽ. Tiến độ vẫn ổn định
nhưng không có điểm dừng.
Sau đó, tại CASP13 năm 2018, được tổ chức tại một khu nghỉ mát rợp bóng
cọ ở Cancún, một người tham gia có thứ hạng bên ngoài đã đến tham gia cuộc
thi, không có thành tích gì và đánh bại 98 đội đã thành lập. Đội chiến thắng
là của DeepMind. Được gọi là AlphaFold, dự án bắt đầu trong cuộc thi hackathon
thử nghiệm kéo dài một tuần trong nhóm của tôi tại công ty vào năm 2016. Nó
đã trở thành một thời điểm mang tính bước ngoặt trong sinh học tính toán và
cung cấp một ví dụ hoàn hảo về cách cả AI và công nghệ sinh học đều đang
phát triển với tốc độ nhanh chóng.
Trong khi đội đứng thứ hai, nhóm Zhang được đánh giá cao, chỉ có thể dự
đoán ba cấu trúc protein trong số 43 mục tiêu khó khăn nhất, thì đội chiến
thắng của chúng tôi dự đoán là 25. Nó thực hiện việc này nhanh hơn nhiều so
với các đối thủ của mình, chỉ trong vài giờ. Bằng cách nào đó trong cuộc
cạnh tranh lâu đời này, với sự tham gia của các chuyên gia siêu thông minh,
quân bài hoang dã của chúng tôi đã chiến thắng và khiến mọi người choáng
váng. Mohammed AlQuraishi, một nhà nghiên cứu nổi tiếng trong lĩnh vực này,
đã hỏi: “Chuyện gì vừa xảy ra vậy?”
Nhóm của chúng tôi đã sử dụng mạng lưới thần kinh tổng hợp sâu để dự đoán cách
các protein có thể gấp lại dựa trên DNA của chúng, huấn luyện trên một tập hợp các
protein đã biết và ngoại suy từ đó. Các mô hình mới có khả năng đoán khoảng cách
và góc của các cặp axit amin tốt hơn.
Không phải kiến thức chuyên môn về dược phẩm hay các kỹ thuật truyền thống như
kính hiển vi điện tử đông lạnh hay thậm chí các phương pháp thuật toán thông
thường đã giải quyết được vấn đề. Điều quan trọng là chuyên môn và khả năng học
máy, về AI. AI và sinh học đã quyết định kết hợp với nhau.
Hai năm sau đội của chúng tôi đã trở lại. Một tiêu đề đã nói lên tất cả: “Một
trong những vấn đề lớn nhất trong sinh học cuối cùng đã được giải quyết,”
Scientific American viết. Một vũ trụ protein ẩn giấu trước đây đã được tiết lộ
với tốc độ đáng kinh ngạc. AlphaFold hoạt động tốt đến mức CASP, giống như
ImageNet, đã ngừng hoạt động. Trong nửa thế kỷ, việc gấp protein đã là một trong
những thách thức lớn của khoa học, và sau đó, đột nhiên, nó bị loại khỏi danh sách.
Vào năm 2022, AlphaFold2 được mở cửa cho công chúng sử dụng. Kết quả là sự
bùng nổ của các công cụ học máy tiên tiến nhất thế giới, được triển khai trong cả
nghiên cứu sinh học cơ bản và ứng dụng: một “động đất”, theo lời của một nhà
nghiên cứu. Hơn một triệu nhà nghiên cứu đã truy cập công cụ này trong vòng mười
tám tháng kể từ khi ra mắt, bao gồm hầu hết tất cả các phòng thí nghiệm sinh học
hàng đầu thế giới, giải quyết các câu hỏi từ kháng kháng sinh đến điều trị các
bệnh hiếm gặp cho đến nguồn gốc của sự sống. Các thí nghiệm trước đây đã đưa cấu
trúc của khoảng 190.000 protein vào cơ sở dữ liệu của Viện Tin sinh học Châu Âu,
chiếm khoảng 0,1% số protein đã biết hiện đang tồn tại. DeepMind đã tải lên khoảng
200 triệu cấu trúc trong một lần, đại diện cho hầu hết các protein đã biết.
Trong khi trước đây các nhà nghiên cứu có thể phải mất hàng tuần hoặc hàng tháng
để xác định hình dạng và chức năng của protein thì quá trình đó giờ đây có thể
bắt đầu chỉ trong vài giây. Đây là những gì chúng tôi muốn nói bởi sự thay đổi
theo cấp số nhân. Đây chính là điều mà làn sóng sắp tới có thể làm được.
Tuy nhiên, đây mới chỉ là bước khởi đầu cho sự hội tụ của hai công nghệ này.
Cuộc cách mạng sinh học đang cùng tiến hóa với những tiến bộ trong AI,
và thực sự nhiều hiện tượng được thảo luận trong chương này sẽ dựa vào AI
để hiện thực hóa chúng. Sau đó, hãy nghĩ đến hai làn sóng va vào nhau,
không phải sóng mà là siêu sóng. Quả thực, từ một khía cạnh thuận lợi,
trí tuệ nhân tạo và sinh học tổng hợp gần như có thể thay thế cho nhau.
Tất cả trí thông minh cho đến nay đều đến từ cuộc sống. Gọi chúng là trí
tuệ tổng hợp và sự sống nhân tạo và chúng vẫn có ý nghĩa tương tự. Cả hai
lĩnh vực đều xoay quanh việc tái tạo, thiết kế những khái niệm hoàn toàn
có nền tảng và liên quan đến nhau này, hai thuộc tính cốt lõi của nhân
loại; thay đổi quan điểm và chúng trở thành một dự án duy nhất.
Sự phức tạp tuyệt đối của sinh học mở ra kho dữ liệu khổng lồ, giống
như tất cả các protein đó, hầu như không thể phân tích bằng các kỹ thuật
truyền thống. Kết quả là một thế hệ công cụ mới đã nhanh chóng trở nên
không thể thiếu. Các nhóm đang nghiên cứu các sản phẩm có thể tạo ra
chuỗi DNA mới chỉ bằng cách sử dụng các hướng dẫn ngôn ngữ tự nhiên. Các
mô hình máy biến áp đang học ngôn ngữ sinh học và hóa học, một lần nữa
khám phá các mối quan hệ và ý nghĩa trong những chuỗi dài, phức tạp mà
trí óc con người không thể đọc được.
LLM được tinh chỉnh trên dữ liệu sinh hóa có thể tạo ra các ứng cử viên
hợp lý cho các phân tử và protein, trình tự DNA và RNA mới. Họ dự đoán
cấu trúc, chức năng hoặc đặc tính phản ứng của các hợp chất trong mô
phỏng trước khi chúng được xác minh trong phòng thí nghiệm. Không gian
của các ứng dụng và tốc độ khám phá chúng ngày càng tăng.
Một số nhà khoa học đang bắt đầu nghiên cứu cách kết nối trực tiếp
tâm trí con người vào hệ thống máy tính. Vào năm 2019, các điện cực được
phẫu thuật cấy vào não đã giúp một người đàn ông bị liệt hoàn toàn mắc
bệnh ALS giai đoạn cuối có thể đánh vần được dòng chữ “Tôi yêu đứa con
trai tuyệt vời của tôi”. Các công ty như Neuralink đang nghiên cứu công
nghệ giao tiếp não bộ hứa hẹn kết nối chúng ta trực tiếp với máy móc. Vào
năm 2021, công ty đã chèn ba nghìn điện cực giống như sợi tóc, mỏng hơn
sợi tóc người, để theo dõi hoạt động của tế bào thần kinh, vào não lợn.
Họ hy vọng sẽ sớm bắt đầu thử nghiệm bộ cấy não N1 trên người, trong khi
một công ty khác, Synchron, đã bắt đầu thử nghiệm trên người ở Úc. Các nhà khoa học tại
một công ty khởi nghiệp tên là Cortical Labs thậm chí còn phát triển một loại não
trong thùng (một loạt tế bào thần kinh được nuôi cấy trong ống nghiệm) và dạy nó
chơi Pong. Có lẽ sẽ không lâu nữa trước khi các “dây buộc” thần kinh làm từ ống
nano carbon kết nối chúng ta trực tiếp với thế giới kỹ thuật số.
Điều gì xảy ra khi tâm trí con người có quyền truy cập tức thời vào tính toán
và thông tin trên quy mô internet và đám mây? Hầu như không thể tưởng tượng được,
nhưng các nhà nghiên cứu đã bắt đầu biến nó thành hiện thực. Là những công nghệ có
mục đích chung trung tâm của làn sóng sắp tới, AI và sinh học tổng hợp đã vướng
vào nhau, một vòng phản hồi xoắn ốc thúc đẩy lẫn nhau.
Trong khi đại dịch giúp nâng cao nhận thức rộng rãi về công nghệ sinh học, thì toàn
bộ tác động—những khả năng cũng như rủi ro—của sinh học tổng hợp hầu như chưa bắt
đầu thấm vào trí tưởng tượng của mọi người.
Chào mừng đến với thời đại của máy sinh học và máy tính sinh học, nơi các chuỗi
DNA thực hiện tính toán và các tế bào nhân tạo được đưa vào hoạt động. Nơi máy móc
trở nên sống động. Chào mừng đến với thời đại của cuộc sống tổng hợp.
CHƯƠNG 6
SÓNG RỘNG HƠN
Sóng công nghệ lớn hơn chỉ một hoặc hai

các công nghệ có mục đích chung. Chúng là các cụm công nghệ xuất
hiện cùng lúc, được gắn với một hoặc nhiều công nghệ có mục đích
chung nhưng vượt xa chúng.
Các công nghệ có mục đích chung là chất tăng tốc. Phát minh khơi
dậy phát minh. Sóng đặt nền tảng cho những thử nghiệm khoa học và công
nghệ sâu hơn, thúc đẩy mở ra những cánh cửa khả năng.
Điều này lần lượt mang lại những công cụ và kỹ thuật mới, những lĩnh
vực nghiên cứu mới - chính những lĩnh vực công nghệ mới. Các công ty
hình thành trong và xung quanh họ, thu hút đầu tư, đẩy các công nghệ
mới vào các ngóc ngách nhỏ và lớn, tiếp tục điều chỉnh chúng cho hàng
nghìn mục đích khác nhau. Sóng rất lớn và mang tính lịch sử chính xác
là do tính phức tạp dễ thay đổi này, xu hướng mọc lên như nấm và tràn
ra ngoài.
Các công nghệ không phát triển hoặc vận hành theo kiểu khóa khí, tách
biệt với nhau, ít nhất là trong số tất cả các công nghệ có mục đích chung.
Đúng hơn, chúng phát triển thành các vòng khuếch đại gợn sóng. Nơi bạn tìm
thấy một công nghệ có mục đích chung, bạn cũng tìm thấy các công nghệ khác
đang phát triển trong cuộc đối thoại liên tục, được thúc đẩy bởi nó. Khi
đó, nhìn vào các làn sóng, rõ ràng nó không chỉ là về động cơ hơi nước, hay
máy tính cá nhân, hay sinh học tổng hợp, quan trọng như chúng vốn có; nó
còn nói về mối quan hệ rộng lớn của các công nghệ và ứng dụng khác đi kèm với chúng.
Đó là tất cả các sản phẩm được sản xuất trong các nhà máy chạy bằng hơi nước, con người
được thực hiện trên các chuyến tàu chạy bằng hơi nước, các hoạt động kinh doanh phần
mềm và xa hơn nữa là mọi thứ khác dựa trên máy tính.
Sinh học và AI là trung tâm, nhưng xung quanh chúng là một vùng tranh tối tranh
sáng của các công nghệ biến đổi khác. Mỗi cái đều có tầm quan trọng to lớn theo đúng
nghĩa của nó, nhưng điều đó càng được nâng cao khi nhìn qua lăng kính về tiềm năng thụ
phấn chéo của làn sóng lớn hơn. Trong hai mươi năm nữa sẽ có vô số công nghệ bổ sung,
tất cả đều mang tính đột phá cùng một lúc. Trong chương này, chúng ta xem xét một số
ví dụ chính tạo nên làn sóng rộng hơn này.
Chúng ta bắt đầu với robot, hay như tôi muốn nghĩ về nó, biểu hiện vật lý của AI,
cơ thể của AI. Tác động của nó đã được cảm nhận rõ ràng trong một số ngành công nghiệp
tiên tiến nhất trên trái đất. Nhưng cũng là lâu đời nhất. Hãy đến trang trại tự động.
ROBOTICS ĐẾN TUỔI
Năm 1837, John Deere là thợ rèn làm việc ở Grand Detour, Illinois. Đây là vùng thảo
nguyên, với đất đen dày đặc và không gian rộng mở. Nó có tiềm năng trở thành một
trong những vùng đất trồng trọt tốt nhất thế giới - rất tốt cho cây trồng nhưng cực
kỳ khó cày xới.
Rồi một ngày Deere nhìn thấy một chiếc cưa thép bị hỏng ở một nhà máy. Thép khan
hiếm, anh ta mang về nhà và chế tạo lưỡi dao thành một cái cày.
Mạnh mẽ và mịn màng, thép là vật liệu hoàn hảo để cày qua lớp đất dày đặc và dính. Mặc
dù những người khác coi thép là giải pháp thay thế cho những chiếc máy cày sắt thô
hơn, nhưng bước đột phá của Deere là đẩy mạnh sản xuất hàng loạt. Chẳng bao lâu sau,
những người nông dân khắp vùng Trung Tây đã đổ xô đến xưởng của ông. Phát minh của ông
đã mở ra vùng đồng cỏ cho làn sóng người định cư. Miền Trung Tây xứng đáng trở thành
vựa lúa mì của thế giới; John Deere nhanh chóng đồng nghĩa với nông nghiệp; và một
cuộc cách mạng địa-kỹ thuật đã được phát động.
Công ty John Deere vẫn sản xuất công nghệ nông nghiệp cho đến ngày nay. Bạn có thể
đang nghĩ tới máy kéo, máy phun nước, máy liên hợp và
đúng là John Deere đã làm ra tất cả những thứ này. Tuy nhiên, công ty ngày càng
chế tạo robot. Tương lai của ngành nông nghiệp, như John Deere nhận thấy, liên
quan đến các máy kéo tự động và các máy kết hợp hoạt động độc lập, tuân theo tọa
độ GPS của cánh đồng và sử dụng một loạt cảm biến để thực hiện các thay đổi tự
động, theo thời gian thực trong quá trình thu hoạch, tối đa hóa năng suất và
giảm thiểu chất thải. Công ty đang sản xuất robot có thể trồng, chăm sóc và thu
hoạch cây trồng với mức độ chính xác và chi tiết mà con người không thể làm được.
Mọi thứ từ chất lượng đất đến điều kiện thời tiết đều được đưa vào một bộ máy
móc sẽ sớm thực hiện được khối lượng lớn công việc. Trong thời đại lạm phát giá
lương thực và dân số ngày càng tăng, giá trị là rõ ràng.
Robot nông nghiệp không chỉ xuất hiện. Họ đang ở đây. Từ máy bay không người
lái theo dõi gia súc đến giàn tưới tiêu chính xác đến robot di động nhỏ tuần tra
các trang trại rộng lớn trong nhà, từ gieo hạt đến thu hoạch, nhặt hàng, tưới cà
chua đến theo dõi và chăn gia súc, thực tế thực phẩm chúng ta ăn ngày nay là nó
ngày càng đến từ một thế giới. số lượng robot được điều khiển bởi AI hiện đang
được triển khai và mở rộng quy mô.
Hầu hết những robot này trông không giống người máy trong các bộ phim khoa học viễn tưởng phổ biến.
Chúng trông giống như máy nông nghiệp. Và nhiều người trong chúng ta không dành nhiều thời
gian cho các trang trại trong mọi trường hợp. Nhưng cũng giống như chiếc máy cày của John
Deere đã từng biến đổi hoạt động kinh doanh nông nghiệp, những phát minh mới lấy robot làm
trung tâm này đang thay đổi cách thức đưa thức ăn đến bàn ăn của chúng ta. Đó không phải
là một cuộc cách mạng mà chúng ta có đủ điều kiện để nhận ra, nhưng nó là một cuộc cách
mạng đang diễn ra tốt đẹp.
robot đã phát triển chủ yếu dưới dạng công cụ một chiều, những cỗ máy có khả
năng thực hiện các nhiệm vụ đơn lẻ trên dây chuyền sản xuất với tốc độ và độ
chính xác, giúp tăng năng suất đáng kể cho các nhà sản xuất nhưng khác xa với
tầm nhìn kiểu Jetsons của những năm 1960 về những người trợ giúp android khác thường .
Cũng như AI, việc chế tạo robot trong thực tế tỏ ra khó khăn hơn nhiều so với
những gì các kỹ sư ban đầu nghĩ. Thế giới thực là một môi trường kỳ lạ, không đồng
đều, bất ngờ và không có cấu trúc, cực kỳ nhạy cảm với những thứ như áp lực: nhặt
một quả trứng, một quả táo, một viên gạch, một đứa trẻ và một bát súp, tất cả đều
đòi hỏi sự khéo léo, nhạy cảm, sức mạnh phi thường, và sự cân bằng. Một môi trường
như nhà bếp hoặc xưởng rất bừa bộn, chứa đầy những vật dụng nguy hiểm, vết dầu loang
và nhiều dụng cụ, vật liệu khác nhau. Đó là cơn ác mộng của robot.
Tuy nhiên, hầu như không được công chúng để mắt tới, robot đã âm thầm tìm hiểu
về mô-men xoắn, độ bền kéo, tính chất vật lý của thao tác, độ chính xác, áp suất và
khả năng thích ứng. Chỉ cần xem chúng tại một nhà máy sản xuất ô tô trên YouTube:
bạn sẽ thấy một vở ba-lê sắc nét, không bao giờ kết thúc về các cánh tay robot và
người điều khiển đang chế tạo một chiếc ô tô một cách đều đặn. “Robot di động hoàn
toàn tự động đầu tiên” của Amazon, có tên là Proteus, có thể đi lại quanh các kho
hàng theo đội xe lớn để nhặt bưu kiện. Được trang bị “công nghệ an toàn, nhận thức
và điều hướng tiên tiến”, nó có thể thực hiện điều này một cách thoải mái cùng với
con người.
Sparrow của Amazon là công ty đầu tiên có thể “phát hiện, lựa chọn và xử lý từng sản
phẩm trong kho [của nó]”.
Không khó để tưởng tượng những robot này trong nhà kho và nhà máy - những môi
trường tương đối tĩnh. Nhưng chẳng bao lâu nữa, chúng sẽ ngày càng được tìm thấy
nhiều hơn trong các nhà hàng, quán bar, viện dưỡng lão và trường học. Robot hiện
đang thực hiện các ca phẫu thuật phức tạp – song song với con người nhưng cũng có
thể tự động thực hiện trên lợn (hiện tại). Việc sử dụng như vậy chỉ là bước khởi
đầu cho việc triển khai robot rộng rãi hơn nhiều.
Ngày nay các lập trình viên con người vẫn thường kiểm soát mọi chi tiết hoạt
động của robot. Điều đó làm cho chi phí tích hợp trong một môi trường mới trở nên
quá cao. Nhưng như chúng ta đã thấy trong rất nhiều ứng dụng khác của học máy, những
gì bắt đầu bằng sự giám sát chặt chẽ của con người sẽ kết thúc bằng việc AI tự học
cách tự thực hiện nhiệm vụ tốt hơn, cuối cùng khái quát hóa sang các cài đặt mới.
Bộ phận nghiên cứu của Google đang chế tạo những robot có thể, giống như giấc
mơ của những năm 1950, làm việc nhà và các công việc cơ bản từ việc xếp chồng lên nhau
bát đĩa đến việc dọn dẹp ghế trong phòng họp. Họ đã xây dựng một đội gồm
hàng trăm robot có khả năng phân loại rác và lau bàn.
Học tăng cường giúp dụng cụ kẹp của mỗi robot nhặt cốc và mở cửa: chỉ những
loại hành động, dễ dàng đối với trẻ mới biết đi, đã khiến các nhà chế tạo
robot khó chịu trong nhiều thập kỷ. Loại robot mới này có thể thực hiện các
hoạt động chung, đáp ứng các lệnh thoại bằng ngôn ngữ tự nhiên.
Một lĩnh vực đang phát triển khác là khả năng tụ tập của robot, khuếch
đại đáng kể khả năng tiềm tàng của bất kỳ cá nhân robot nào trong tâm trí
tổ ong. Các ví dụ bao gồm Kilobots thu nhỏ của Viện Harvard Wyss—một nhóm
gồm một nghìn robot làm việc chung và lắp ráp theo hình dạng lấy từ thiên
nhiên có thể được sử dụng cho các nhiệm vụ khó khăn, phân tán như ngăn chặn
xói mòn đất và các hoạt động hòa giải môi trường khác, nông nghiệp, tìm
kiếm và cứu hộ, hoặc toàn bộ lĩnh vực xây dựng và kiểm tra. Hãy tưởng tượng
một đàn robot xây dựng xây dựng một cây cầu trong vài phút hoặc một tòa nhà
lớn trong vài giờ hoặc chăm sóc những trang trại khổng lồ, năng suất cao
24/7 hoặc dọn dẹp một vụ tràn dầu. Với quần thể ong mật đang bị đe dọa,
Walmart đã nộp bằng sáng chế cho ong robot để hợp tác và thụ phấn chéo cho
cây trồng một cách tự động. Tất cả những hứa hẹn (và mối nguy hiểm) của
robot đều được khuếch đại nhờ khả năng phối hợp trong các nhóm có quy mô
không hạn chế, một vũ đạo phức tạp sẽ đặt lại các quy tắc về những gì có
thể, ở đâu và trong khung thời gian nào.
Robot ngày nay thường không giống những robot hình người trong trí tưởng
tượng phổ biến. Hãy xem xét hiện tượng in 3-D hoặc sản xuất bồi đắp, một kỹ
thuật sử dụng các bộ phận lắp ráp robot để xếp lớp cấu trúc của bất kỳ thứ
gì từ các bộ phận máy cực nhỏ đến các khối chung cư. Những robot phun bê
tông khổng lồ có thể xây dựng nhà ở trong vài ngày với chi phí chỉ bằng một
phần chi phí xây dựng truyền thống.
Robot có thể hoạt động với độ chính xác cao trong phạm vi môi trường
rộng hơn trong thời gian dài hơn nhiều so với con người. Sự cảnh giác và
siêng năng của họ là vô hạn. Nếu họ được kết nối với nhau, những thành tựu
mà họ có thể đạt được chỉ đơn giản là viết lại các quy tắc thực hiện hành động. TÔI
nghĩ rằng chúng ta đang tiến tới điểm mà AI đang thúc đẩy robot hướng
tới lời hứa ban đầu của chúng: những cỗ máy có thể tái tạo tất cả các
hành động vật lý của con người và hơn thế nữa. Khi chi phí giảm (giá
cánh tay robot giảm 46% trong 5 năm và vẫn đang giảm), vì cuối cùng
chúng được trang bị pin mạnh, vì chúng đơn giản hóa, trở nên dễ sửa
chữa nên chúng sẽ trở nên phổ biến.
Và điều đó có nghĩa là sẽ xuất hiện trong những tình huống bất thường, cực
đoan và nhạy cảm. Những dấu hiệu của sự thay đổi đã hiện rõ—nếu bạn biết
nơi cần tìm.
đó là cơn ác mộng tồi tệ nhất của lực lượng cảnh sát. Một tay bắn tỉa
được huấn luyện quân sự đã có được vị trí an toàn trên tầng hai tại
một trường cao đẳng cộng đồng địa phương ở Dallas, Texas. Sau đó, bỏ
qua một cuộc biểu tình ôn hòa, anh ta bắt đầu bắn cảnh sát. Sau bốn
mươi lăm phút, hai người chết, nhiều người bị thương. Sau đó người ta
biết rằng 5 sĩ quan đã thiệt mạng, 7 người bị thương, vụ việc nguy
hiểm nhất đối với cơ quan thực thi pháp luật Mỹ kể từ vụ 11/9. Tay
súng chế nhạo cảnh sát, cười, hát và bắn với độ chính xác đáng kinh
ngạc. Các cuộc đàm phán căng thẳng kéo dài hơn hai giờ không đi đến
đâu. Cảnh sát đã bị ghim chặt. Không rõ có bao nhiêu người nữa sẽ chết
khi cố gắng giải quyết tình hình.
Sau đó đội SWAT nảy ra một ý tưởng mới. Sở cảnh sát có một robot
xử lý bom, Remotec Andros Mark 5A-1 trị giá 150.000 USD do Northrop
Grumman chế tạo. Trong mười lăm phút, họ nảy ra kế hoạch gắn một khối
thuốc nổ C-4 lớn vào cánh tay của nó và đưa nó vào tòa nhà với ý định
vô hiệu hóa kẻ xả súng. Cảnh sát trưởng David Brown nhanh chóng phê
duyệt kế hoạch. Nó bắt đầu hoạt động, robot chạy ầm ầm khắp tòa nhà,
nơi nó đặt chất nổ ở một căn phòng liền kề, cạnh bức tường với kẻ nổ
súng ở phía bên kia. Chất nổ phát nổ, làm nổ tung bức tường và giết
chết tay súng. Đây là lần đầu tiên một robot có
đã sử dụng vũ lực gây chết người có mục tiêu ở Hoa Kỳ. Ở Dallas, nó đã cứu
thế giới. Một sự kiện khủng khiếp đã được đưa đến hồi kết.
Tuy nhiên, một số vẫn tỏ ra lo lắng. Khó có thể nhấn mạnh đến tiềm năng
gây chết người của robot cảnh sát. Chúng ta sẽ quay lại ý nghĩa của tất cả
những điều này trong phần 3. Nhưng trên hết, nó biểu thị cách robot đang dần
dần hòa nhập vào xã hội, sẵn sàng đóng một vai trò lớn hơn nhiều trong cuộc
sống hàng ngày so với trường hợp trước đây. Từ một cuộc khủng hoảng chết
người đến sự ồn ào yên tĩnh của một trung tâm hậu cần, từ một nhà máy nhộn
nhịp đến viện dưỡng lão, robot đều có mặt ở đây.
AI là sản phẩm của bit và mã, tồn tại trong các mô phỏng và máy chủ. Robot
là cầu nối, là giao diện của họ với thế giới thực. Nếu AI đại diện cho sự tự
động hóa thông tin thì robot là sự tự động hóa vật liệu, sự khởi tạo vật lý
của AI, một bước thay đổi về những gì nó có thể làm được . Việc làm chủ bit
trở thành một vòng tròn hoàn chỉnh, trực tiếp cấu hình lại các nguyên tử,
viết lại giới hạn không chỉ của những gì có thể suy nghĩ, nói hoặc tính toán
mà còn cả những gì có thể được xây dựng theo nghĩa vật lý hữu hình nhất. Tuy
nhiên, điều đáng chú ý về làn sóng sắp tới là kiểu thao túng nguyên tử thẳng
thừng này chẳng là gì so với những gì đang diễn ra ở phía chân trời.
SỰ SIÊU HẤP DẪN LƯỢNG TỬ
Vào năm 2019, Google thông báo rằng họ đã đạt đến “ưu thế lượng tử”. Các nhà
nghiên cứu đã chế tạo một máy tính lượng tử, một máy tính sử dụng các đặc
tính đặc biệt của thế giới hạ nguyên tử. Được làm lạnh đến nhiệt độ lạnh hơn
những phần lạnh nhất của không gian, cỗ máy của Google đã sử dụng sự hiểu
biết về cơ học lượng tử để hoàn thành phép tính trong vài giây mà theo họ,
máy tính thông thường phải mất cả chục nghìn năm. Nó chỉ có 53 “qubit” hay
bit lượng tử, đơn vị cốt lõi của điện toán lượng tử. Để lưu trữ thông tin
tương đương trên một máy tính cổ điển, bạn sẽ cần 72 tỷ gigabyte bộ nhớ. Đây
là thời điểm quan trọng đối với
máy tính lượng tử. Từ nền tảng lý thuyết có từ những năm 1980, điện toán lượng tử đã đi
từ giả thuyết sang nguyên mẫu hoạt động được trong bốn thập kỷ.
Mặc dù vẫn còn là một công nghệ non trẻ nhưng sẽ có những tác động to lớn khi điện
toán lượng tử thành hiện thực. Điểm hấp dẫn chính của nó là mỗi qubit bổ sung sẽ nhân
đôi tổng sức mạnh tính toán của máy. Bắt đầu thêm qubit và nó sẽ mạnh hơn theo cấp số
nhân. Thật vậy, một số lượng tương đối nhỏ các hạt có thể có sức mạnh tính toán cao hơn
nếu toàn bộ vũ trụ được chuyển đổi thành một máy tính cổ điển. Đó là khả năng tính toán
tương đương với việc chuyển từ một bộ phim phẳng, đen trắng sang màu đầy đủ và ba chiều,
mở ra một thế giới khả năng thuật toán.
Điện toán lượng tử có ý nghĩa sâu rộng. Ví dụ: mật mã làm nền tảng cho mọi thứ từ
bảo mật email đến tiền điện tử sẽ đột nhiên gặp rủi ro, trong một sự kiện sắp xảy ra,
những người trong lĩnh vực này gọi là “Q-Day”. Mật mã dựa trên giả định rằng kẻ tấn công
sẽ không bao giờ có đủ sức mạnh tính toán để thử tất cả các kết hợp khác nhau cần thiết
để phá vỡ nó và mở khóa quyền truy cập.
Với tính toán lượng tử, điều đó sẽ thay đổi. Việc triển khai nhanh chóng và không có
giới hạn của điện toán lượng tử có thể gây ra những tác động thảm khốc đối với hoạt
động truyền thông của ngân hàng hoặc chính phủ. Cả hai đều đã chi hàng tỷ USD để ngăn
chặn khả năng này.
Mặc dù nhiều cuộc thảo luận về điện toán lượng tử tập trung vào mối nguy hiểm của
nó, nhưng lĩnh vực này cũng hứa hẹn những lợi ích to lớn, bao gồm khả năng khám phá
những ranh giới trong toán học và vật lý hạt.
Các nhà nghiên cứu tại Microsoft và Ford đã sử dụng các phương pháp lượng tử mới ra đời
để lập mô hình giao thông ở Seattle nhằm tìm ra những cách tốt hơn trong việc điều hướng
giờ cao điểm, định tuyến và phân luồng giao thông trên những đường đi tối ưu—một bài
toán phức tạp đến mức đáng ngạc nhiên. Về lý thuyết, việc giải quyết bất kỳ vấn đề tối
ưu hóa nào đều có thể được đẩy nhanh hơn rất nhiều—hầu hết mọi việc liên quan đến việc
giảm thiểu chi phí trong những trường hợp phức tạp, cho dù đó là việc chất hàng một
chiếc xe tải hay vận hành nền kinh tế quốc gia một cách hiệu quả.
Có thể cho rằng, lời hứa ngắn hạn quan trọng nhất của điện toán lượng tử là mô
hình hóa các phản ứng hóa học và sự tương tác của các phân tử một cách chi tiết mà
trước đây không thể thực hiện được. Điều này có thể cho phép chúng ta hiểu được bộ
não con người hoặc khoa học vật liệu với mức độ chi tiết phi thường. Hóa học và
sinh học lần đầu tiên sẽ trở nên hoàn toàn dễ đọc. Việc khám phá các hợp chất dược
phẩm mới hoặc hóa chất và vật liệu công nghiệp, một quá trình tốn kém và vất vả
của công việc phức tạp trong phòng thí nghiệm, có thể được đẩy nhanh hơn rất nhiều—
được thực hiện ngay từ lần đầu tiên. Các loại pin và thuốc mới có nhiều khả năng
hơn, hiệu quả hơn và khả thi hơn.
Phân tử trở nên “có thể lập trình được”, dẻo dai và dễ thao tác như mã.
Nói cách khác, điện toán lượng tử là một công nghệ nền tảng khác vẫn đang
trong quá trình phát triển từ rất sớm, vẫn chưa đạt được những thời điểm quan
trọng về giảm chi phí và phổ biến rộng rãi, chưa nói đến những đột phá kỹ thuật sẽ
khiến nó hoàn toàn khả thi. Nhưng cũng như AI và sinh học tổng hợp, mặc dù đang ở
giai đoạn đầu, nhưng dường như đã đến thời điểm mà kinh phí và kiến thức đang tăng
lên, tiến bộ trong việc giải quyết các thách thức cơ bản đang gia tăng và một loạt
các ứng dụng có giá trị đang được xem xét. Giống như AI và công nghệ sinh học,
điện toán lượng tử giúp tăng tốc các yếu tố khác của làn sóng. Tuy nhiên, ngay cả
thế giới lượng tử đáng kinh ngạc cũng không phải là giới hạn.
CHUYỂN ĐỔI NĂNG LƯỢNG TIẾP THEO
Năng lượng cạnh tranh với trí thông minh và sự sống ở tầm quan trọng cơ bản của nó.
Nền văn minh hiện đại dựa vào số lượng lớn của nó. Thật vậy, nếu bạn muốn viết
phương trình thô sơ nhất có thể có cho thế giới của chúng ta thì nó sẽ giống như
thế này:
(Cuộc sống + Trí tuệ) x Năng lượng = Nền văn minh hiện đại
Tăng bất kỳ hoặc tất cả những đầu vào đó (chưa nói đến việc tăng chi phí cận biên
của chúng lên bằng 0) và bạn sẽ có một bước thay đổi về bản chất của xã hội.
Sự tăng trưởng vô tận về mức tiêu thụ năng lượng là điều không thể và cũng
không được mong muốn trong thời đại nhiên liệu hóa thạch, tuy nhiên, trong khi
thời kỳ bùng nổ kéo dài, sự phát triển của hầu hết mọi thứ mà chúng ta coi là
đương nhiên - từ thực phẩm giá rẻ đến vận tải dễ dàng - đều phụ thuộc vào nó. Giờ
đây, sự gia tăng mạnh mẽ nguồn năng lượng sạch, giá rẻ có ý nghĩa đối với mọi
thứ, từ giao thông vận tải đến các tòa nhà, chưa kể đến nguồn năng lượng khổng
lồ cần thiết để vận hành các trung tâm dữ liệu và robot sẽ là trọng tâm của những thập kỷ tới.
Năng lượng – đắt đỏ và bẩn thỉu – hiện đang là yếu tố hạn chế tốc độ tiến bộ của
công nghệ. Không lâu hơn nữa.
Năng lượng tái tạo sẽ trở thành nguồn phát điện lớn nhất vào năm 2027. Sự
thay đổi này đang diễn ra với tốc độ chưa từng thấy, với công suất tái tạo sẽ
được bổ sung trong 5 năm tới nhiều hơn so với hai thập kỷ trước. Đặc biệt, năng
lượng mặt trời đang có tốc độ tăng trưởng nhanh chóng, với chi phí giảm đáng kể.
Năm 2000, năng lượng mặt trời có giá 4,88 USD/watt nhưng đến năm 2019, giá đã
giảm xuống chỉ còn 38 cent. Năng lượng không chỉ ngày càng rẻ hơn; nó được phân
phối nhiều hơn, có khả năng bản địa hóa từ các thiết bị cụ thể đến toàn bộ cộng
đồng.
Đằng sau tất cả là nguồn năng lượng sạch khổng lồ đang ngủ yên, lần này được
lấy cảm hứng nếu không được cung cấp năng lượng trực tiếp từ mặt trời: phản ứng
tổng hợp hạt nhân. Năng lượng nhiệt hạch liên quan đến việc giải phóng năng lượng
khi các đồng vị của hydro va chạm và hợp nhất để tạo thành heli, một quá trình
từ lâu được coi là chén thánh của sản xuất năng lượng. Những người tiên phong vào
những năm 1950 dự đoán rằng sẽ mất khoảng một thập kỷ để phát triển. Giống như
rất nhiều công nghệ được mô tả ở đây, đó là một sự đánh giá thấp đáng kể.
Tuy nhiên, những đột phá gần đây đã làm dấy lên hy vọng mới.
Các nhà nghiên cứu tại Joint European Torus gần Oxford, Anh, đã đạt được sản
lượng điện kỷ lục, gấp đôi mức cao trước đó được ghi nhận vào năm 1997. Tại Cơ
sở Đánh lửa Quốc gia ở Livermore, California, các nhà khoa học đang nghiên cứu
một phương pháp được gọi là quán tính.

giam cầm, bao gồm việc nén các viên vật liệu giàu hydro bằng tia laser
và làm nóng chúng đến 100 triệu độ để tạo ra phản ứng nhiệt hạch thoáng
qua. Vào năm 2022, lần đầu tiên họ đã tạo ra một phản ứng thể hiện mức
tăng năng lượng ròng, một cột mốc quan trọng trong việc sản xuất nhiều
năng lượng hơn lượng laser đưa vào. Với nguồn vốn tư nhân đáng kể hiện
đang chảy vào ít nhất 30 công ty khởi nghiệp nhiệt hạch cùng với các
hợp tác quốc tế lớn, các nhà khoa học đang thảo luận về sự hợp nhất
“khi nào và không nếu” xuất hiện. Có thể vẫn còn một thập kỷ nữa hoặc
hơn, nhưng tương lai với nguồn năng lượng sạch và hầu như vô hạn này
đang ngày càng trở nên hiện thực.
Sự kết hợp và năng lượng mặt trời hứa hẹn tạo ra các mạng lưới năng lượng tập
trung và phi tập trung rộng lớn, với những hàm ý mà chúng ta sẽ khám phá trong phần 3.
Đây là thời điểm có sự lạc quan rất lớn. Bao gồm gió, hydro và các công
nghệ pin cải tiến, đây là hỗn hợp sản xuất bia có thể cung cấp năng
lượng bền vững cho nhiều nhu cầu của cuộc sống cả ngày nay và trong
tương lai, đồng thời phát huy hết tiềm năng của làn sóng.
SÓNG SAU SÓNG
Những công nghệ này sẽ thống trị trong những thập kỷ tới. Nhưng còn
nửa sau thế kỷ XXI thì sao? Điều gì đến sau làn sóng sắp tới?
Khi các yếu tố của AI, công nghệ sinh học tiên tiến, điện toán
lượng tử và robot kết hợp theo những cách mới, chuẩn bị cho những đột
phá như công nghệ nano tiên tiến, một khái niệm đưa độ chính xác ngày
càng tăng của công nghệ đến kết luận hợp lý.
Điều gì sẽ xảy ra nếu thay vì bị thao túng hàng loạt, các nguyên tử
có thể bị thao túng riêng lẻ? Nó sẽ là sự thờ ơ của mối quan hệ bit/
nguyên tử. Tầm nhìn cuối cùng của công nghệ nano là tầm nhìn mà các
nguyên tử trở thành những khối xây dựng có thể điều khiển được, có khả
năng tự động lắp ráp hầu hết mọi thứ.
Những thách thức thực tế là rất lớn nhưng chúng là chủ đề cần
được tăng cường cường độ nghiên cứu. Ví dụ, một nhóm tại Đại học
Oxford đã tạo ra một bộ lắp ráp tự sao chép hướng tới các phiên bản
đa chức năng được những người tiên phong về công nghệ nano tưởng
tượng: các thiết bị có khả năng chế tạo và tái kết hợp không ngừng ở
quy mô nguyên tử.
Máy nano sẽ hoạt động ở tốc độ vượt xa bất cứ thứ gì ở quy mô của
chúng ta, mang lại kết quả đầu ra phi thường: chẳng hạn, một động cơ
nano quy mô nguyên tử có thể quay 48 tỷ lần một phút. Khi được mở rộng
quy mô, nó có thể cung cấp năng lượng cho một chiếc Tesla với vật liệu
có thể tích tương đương khoảng 12 hạt cát. Đây là thế giới của những
cấu trúc tơ như kim cương, những bộ quần áo vũ trụ bám vào và bảo vệ cơ
thể trong mọi môi trường, một thế giới mà những người biên dịch có thể
tạo ra bất cứ thứ gì từ nguyên liệu cơ bản. Nói tóm lại, một thế giới
nơi mọi thứ đều có thể trở thành bất cứ thứ gì nếu có sự thao tác nguyên
tử phù hợp. Giấc mơ về vũ trụ vật chất tạo ra một nền tảng hoàn toàn dễ
uốn nắn, đồ chơi của các nanobot nhỏ bé, khéo léo hoặc các máy sao chép
dễ dàng, vẫn là lĩnh vực, giống như siêu trí tuệ, của khoa học viễn
tưởng. Đó là một ảo mộng công nghệ, cách đây nhiều thập kỷ, nhưng sẽ
dần dần trở thành tâm điểm khi làn sóng sắp tới diễn ra.
về cốt lõi, làn sóng sắp tới là câu chuyện về sự gia tăng quyền lực.
Nếu làn sóng trước làm giảm chi phí phát sóng thông tin thì làn sóng
này sẽ giảm chi phí tác động lên nó, tạo ra các công nghệ đi từ trình
tự đến tổng hợp, đọc đến viết, chỉnh sửa đến tạo, bắt chước các cuộc
hội thoại đến dẫn dắt chúng. Về mặt này, nó khác biệt về mặt chất
lượng so với mọi làn sóng trước đó, bất chấp tất cả những tuyên bố
lớn lao về sức mạnh biến đổi của Internet. Loại quyền lực này thậm chí
còn khó tập trung và giám sát hơn; Do đó, làn sóng này không chỉ là
sự đào sâu và tăng tốc của khuôn mẫu lịch sử mà còn là một sự đột phá
rõ rệt khỏi khuôn mẫu lịch sử.
Không phải ai cũng đồng ý rằng những công nghệ này bị khóa hoặc gây ra
hậu quả như tôi nghĩ. Chủ nghĩa hoài nghi và ác cảm bi quan không phải là
những phản ứng vô lý vì có nhiều điều không chắc chắn. Mỗi công nghệ đều
phải tuân theo một chu kỳ cường điệu luẩn quẩn, mỗi công nghệ đều không
chắc chắn trong quá trình phát triển và tiếp nhận, mỗi công nghệ đều bị
bao quanh bởi những thách thức về kỹ thuật, đạo đức và xã hội. Không có gì
là hoàn chỉnh. Chắc chắn sẽ có những trở ngại, và nhiều tác hại—và thậm
chí cả lợi ích—vẫn chưa rõ ràng.
Nhưng mỗi bên cũng ngày càng cụ thể hơn, phát triển hơn và có khả năng
hơn. Mỗi thứ đang trở nên dễ tiếp cận hơn và mạnh mẽ hơn.
Chúng ta đang đạt đến điểm quyết định của cái mà, trong thang thời gian
tiến hóa địa chất hoặc con người, là một vụ nổ công nghệ diễn ra theo từng
đợt liên tiếp, một chu kỳ đổi mới tổng hợp, tăng tốc ngày càng nhanh hơn
và có tác động mạnh hơn, đầu tiên là đột phá trong khoảng thời gian hàng
nghìn năm, sau đó là hàng trăm năm, và bây giờ là một năm hoặc thậm chí
vài tháng. Hãy xem những công nghệ này trong bối cảnh các thông cáo báo
chí và các bài xã luận, với tốc độ chóng mặt của mạng xã hội, và chúng có
thể trông giống như sự cường điệu và sủi bọt; nhìn thấy tầm nhìn dài hạn
và tiềm năng thực sự của họ trở nên rõ ràng.
Tất nhiên, nhân loại đã từng trải qua sự thay đổi công nghệ to lớn
trước đây như một phần của quá trình này. Tuy nhiên, để hiểu những thách
thức đặc biệt của làn sóng sắp tới—tại sao nó lại đặc biệt khó kiềm chế,
tại sao lời hứa to lớn của nó phải được cân bằng với sự thận trọng tỉnh
táo—trước tiên chúng ta phải chia nhỏ các đặc điểm chính của nó, một số
trong đó không có. tiền lệ lịch sử, và tất cả những điều đó đã được cảm
nhận rồi.
CHƯƠNG 7
BỐN ĐẶC ĐIỂM CỦA SỰ TỚI
SÓNG
Ngay sau khi cuộc xâm lược Ukraina của Nga bắt đầu vào
Ngày 24 tháng 2 năm 2022, người dân thành phố Kyiv biết rằng họ đang trong
một cuộc chiến sinh tồn. Bên kia biên giới với Belarus, một lượng lớn quân
đội, thiết giáp và trang thiết bị Nga đã được xây dựng trong nhiều tháng.
Sau đó, khi bắt đầu cuộc xâm lược, các lực lượng Nga đã sẵn sàng cho một
cuộc tấn công lớn vào mục tiêu mà ở giai đoạn này vẫn là mục tiêu chính
của họ: chiếm thủ đô Ukraine và lật đổ chính phủ nước này.
Trọng tâm của cuộc tập trung lực lượng này là một đoàn xe tải, xe
tăng và pháo hạng nặng dài khoảng 40 km - một cuộc tấn công trên bộ
với quy mô chưa từng thấy ở châu Âu kể từ Thế chiến thứ hai. Nó bắt
đầu di chuyển về phía thành phố. Trên lý thuyết, Ukraine đã bị áp đảo
một cách vô vọng. Kiev dường như phải mất nhiều ngày, có thể nhiều
giờ mới sụp đổ.
Nhưng điều đó đã không xảy ra. Thay vào đó, một đơn vị khoảng 30
binh sĩ Ukraine đeo kính nhìn đêm đã lái xe bốn bánh băng qua các khu
rừng xung quanh thủ đô vào tối hôm đó. Họ xuống gần đầu cột và phóng
máy bay không người lái được trang bị chất nổ nhỏ. Chúng đã hạ gục một
số xe dẫn đầu. Những phương tiện tàn tật đó sau đó làm tắc nghẽn đường
trung tâm. Những cánh đồng xung quanh lầy lội và không thể vượt qua.
Đoàn quân, đối mặt với thời tiết băng giá và các đường tiếp tế đang
chùn bước, đã phải dừng lại. Sau đó, cùng một đơn vị nhỏ những người
điều khiển máy bay không người lái đã làm nổ tung một nguồn cung cấp quan trọng.
căn cứ sử dụng chiến thuật tương tự, tước đi nhiên liệu và lương thực của quân
đội Nga.
Từ đây Trận chiến Kiev đã chuyển hướng. Sự xây dựng sức mạnh quân sự thông
thường lớn nhất trong một thế hệ đã bị hạ thấp, gửi trở lại Belarus trong tình
trạng hỗn loạn đáng xấu hổ. Lực lượng dân quân Ukraina bán ngẫu hứng này được
gọi là Aerorozvidka. Một nhóm tình nguyện viên gồm những người yêu thích máy bay
không người lái, kỹ sư phần mềm, nhà tư vấn quản lý và binh lính, họ là những
người nghiệp dư, thiết kế, chế tạo và sửa đổi máy bay không người lái của riêng
mình trong thời gian thực, giống như một công ty khởi nghiệp. Rất nhiều thiết bị
của họ được huy động vốn từ cộng đồng và huy động vốn từ cộng đồng.
Lực lượng kháng chiến Ukraina đã tận dụng tốt các công nghệ của làn sóng sắp
tới và chứng minh chúng có thể làm suy yếu các tính toán quân sự thông thường
như thế nào. Internet vệ tinh tiên tiến từ Starlink của SpaceX là một phần không
thể thiếu để duy trì kết nối. Một nhóm gồm hàng nghìn lập trình viên ưu tú phi
quân sự và các nhà khoa học máy tính đã tập hợp lại trong một tổ chức có tên
Delta để mang lại khả năng AI và robot tiên tiến cho quân đội, sử dụng máy học
để xác định mục tiêu, theo dõi chiến thuật của Nga và thậm chí đề xuất chiến lược.
Trong những ngày đầu của cuộc chiến, quân đội Ukraine liên tục thiếu đạn
dược. Mọi cuộc đình công đều được tính. Độ chính xác là vấn đề sống còn. Khả năng
của Delta trong việc tạo ra các hệ thống máy học để phát hiện các mục tiêu được
ngụy trang và giúp dẫn đường cho đạn dược là rất quan trọng. Một tên lửa chính
xác trong quân đội thông thường có giá hàng trăm nghìn USD; với AI và máy bay
không người lái dành cho người tiêu dùng, với phần mềm tùy chỉnh và các bộ phận
được in 3-D, một thứ tương tự hiện đã được thử nghiệm trên chiến trường ở Ukraine
với chi phí khoảng 15.000 USD. Bên cạnh những nỗ lực ban đầu của Aerorozvidka,
Hoa Kỳ đã cung cấp cho Ukraine hàng trăm vũ khí bay lơ lửng Switchblade, những
máy bay không người lái chờ xung quanh mục tiêu cho đến thời điểm tối ưu để tấn
công.
Máy bay không người lái và AI đóng một vai trò nhỏ nhưng quan trọng trong
những ngày đầu của cuộc xung đột ở Ukraine, các công nghệ mới với tiềm năng bất
đối xứng rõ rệt đã thu hẹp một phần khoảng cách với tiềm năng lớn hơn nhiều.
kẻ xâm lược. Các lực lượng Mỹ, Anh và châu Âu chỉ cung cấp dưới 100 tỷ
euro viện trợ quân sự trong những tháng đầu tiên, bao gồm một lượng
lớn hỏa lực thông thường, rõ ràng là có tác động quyết định. Tuy nhiên,
đây vẫn là một cuộc xung đột mang tính bước ngoặt vì nó chứng tỏ một
lực lượng chiến đấu tương đối chưa được huấn luyện có thể nhanh chóng
tập hợp và trang bị vũ khí bằng cách sử dụng các công nghệ tương đối
phải chăng có sẵn trên thị trường tiêu dùng.
Khi công nghệ mang lại lợi thế về chi phí và chiến thuật như thế này,
tất nhiên nó sẽ sinh sôi nảy nở và được tất cả các bên sử dụng.
Máy bay không người lái cung cấp cho chúng ta cái nhìn thoáng qua về
những gì sắp xảy ra cho tương lai của chiến tranh. Chúng là một thực tế
mà các nhà lập kế hoạch và chiến binh phải đối mặt hàng ngày. Câu hỏi
thực sự là điều này có ý nghĩa gì đối với xung đột khi chi phí sản xuất
giảm ở mức độ khác và năng lực tăng lên gấp bội. Quân đội và chính phủ
thông thường đang phải vật lộn để ngăn chặn chúng. Những gì xảy ra tiếp
theo sẽ khó kiềm chế hơn nhiều.
như chúng ta đã thấy ở phần 1, các công nghệ từ máy X-quang đến AK-47
luôn phát triển nhanh chóng, gây ra những hậu quả sâu rộng. Tuy nhiên,
làn sóng sắp tới được đặc trưng bởi một tập hợp bốn đặc điểm nội tại
làm phức tạp thêm vấn đề ngăn chặn. Đầu tiên trong số đó là bài học
chính của phần này: tác động cực kỳ bất cân xứng . Bạn không cần phải
đánh like bằng like, đánh bằng mass; thay vào đó, các công nghệ mới
tạo ra những điểm yếu và điểm áp lực không thể tưởng tượng được trước
đây đối với các cường quốc dường như thống trị.
Thứ hai, họ đang phát triển nhanh chóng, một kiểu siêu tiến hóa, lặp
đi lặp lại, cải tiến và phân nhánh sang các lĩnh vực mới với tốc độ đáng
kinh ngạc. Thứ ba, chúng thường được sử dụng đa dạng; nghĩa là chúng có
thể được sử dụng cho nhiều mục đích khác nhau. Và thứ tư, chúng ngày
càng có mức độ tự chủ cao hơn bất kỳ công nghệ nào trước đây.
Những đặc điểm này xác định làn sóng. Hiểu chúng là điều quan trọng trong
việc xác định những lợi ích và rủi ro nào phát sinh từ việc tạo ra chúng; họ cùng
nhau nâng cao khả năng ngăn chặn và kiểm soát lên một tầm cao mới đầy khó khăn
và nguy hiểm.
BẤT ĐỐI XƯỢNG:
MỘT SỰ CHUYỂN GIAO QUYỀN LỰC LỚN
Các công nghệ mới nổi luôn tạo ra những mối đe dọa mới, phân phối lại quyền lực
và xóa bỏ các rào cản gia nhập. Đại bác có nghĩa là một lực lượng nhỏ có thể phá
hủy lâu đài và quân đội cấp độ. Một vài tên lính thuộc địa với vũ khí tối tân có
thể tàn sát hàng ngàn người dân bản địa. Báo in có nghĩa là một xưởng duy nhất có
thể sản xuất hàng nghìn cuốn sách nhỏ - truyền bá ý tưởng một cách dễ dàng mà
các tu sĩ thời Trung cổ sao chép sách bằng tay khó có thể hiểu được. Năng lượng
hơi nước cho phép các nhà máy đơn lẻ thực hiện công việc của toàn bộ thị trấn.
Internet đã đưa khả năng này lên một tầm cao mới: một dòng tweet hoặc một hình
ảnh có thể lan truyền khắp thế giới trong vài phút hoặc vài giây; một thuật toán
duy nhất có thể giúp một công ty khởi nghiệp nhỏ phát triển thành một tập đoàn
rộng lớn, trải rộng trên toàn cầu.
Bây giờ hiệu ứng này một lần nữa được làm sắc nét hơn. Làn sóng công nghệ mới
này đã mở ra những khả năng mạnh mẽ với chi phí rẻ, dễ truy cập và sử dụng, có
mục tiêu và có thể mở rộng. Điều này rõ ràng mang lại rủi ro. Sẽ không chỉ có
lính Ukraine sử dụng máy bay không người lái được trang bị vũ khí. Đó sẽ là bất
cứ ai muốn. Theo lời của chuyên gia bảo mật Audrey Kurth Cronin, “Chưa bao giờ
có nhiều người được tiếp cận với những công nghệ tiên tiến có khả năng gây ra
chết chóc và hỗn loạn như vậy”.
Trong các cuộc giao tranh bên ngoài Kiev, máy bay không người lái là đồ chơi được ưa chuộng.
Công ty DJI có trụ sở tại Thâm Quyến chế tạo các sản phẩm giá rẻ và dễ tiếp cận
rộng rãi như máy bay không người lái có máy ảnh Phantom trị giá 1.399 USD hàng
đầu của họ, một loại máy bay không người lái tốt đến mức nó đã được quân đội Hoa
Kỳ sử dụng. Nếu bạn kết hợp những tiến bộ trong AI và quyền tự chủ, rẻ nhưng hiệu quả
Máy bay không người lái và những tiến bộ hơn nữa trong các lĩnh vực từ robot đến thị
giác máy tính, thì bạn sẽ có vũ khí mạnh mẽ, chính xác và có khả năng không thể theo
dõi được. Việc chống lại các cuộc tấn công rất khó khăn và tốn kém; cả người Mỹ và
người Israel đều sử dụng tên lửa Patriot trị giá 3 triệu USD để bắn hạ máy bay không
người lái trị giá vài trăm đô la. Thiết bị gây nhiễu, tên lửa và máy bay phản lực
đều vẫn còn non trẻ và không phải lúc nào cũng được thử nghiệm trên chiến trường.
Những bước phát triển này thể hiện sự chuyển giao quyền lực khổng lồ từ các quốc
gia và quân đội truyền thống sang bất kỳ ai có năng lực và động lực để triển khai
các thiết bị này. Không có lý do rõ ràng nào khiến một người điều khiển, với đủ
nguồn lực, lại không thể điều khiển một đàn hàng nghìn máy bay không người lái.
Một chương trình AI duy nhất có thể viết nhiều văn bản như toàn nhân loại. Một
mô hình tạo hình ảnh hai gigabyte chạy trên máy tính xách tay của bạn có thể nén tất
cả hình ảnh trên web mở thành một công cụ tạo ra hình ảnh với độ chính xác và sáng
tạo phi thường. Một thí nghiệm gây bệnh đơn lẻ có thể gây ra đại dịch, một sự kiện
phân tử nhỏ với sự phân nhánh toàn cầu. Một máy tính lượng tử khả thi có thể khiến
toàn bộ cơ sở hạ tầng mã hóa của thế giới trở nên dư thừa. Triển vọng về tác động
bất đối xứng đang ngày càng gia tăng và theo nghĩa tích cực – các hệ thống đơn lẻ
cũng có thể mang lại những lợi ích to lớn.
Điều ngược lại của hành động bất đối xứng cũng đúng. Chính quy mô và tính liên
kết của làn sóng sắp tới đã tạo ra những lỗ hổng hệ thống mới: một điểm thất bại có
thể nhanh chóng lan rộng khắp thế giới. Công nghệ càng ít bản địa hóa thì càng khó
có thể kiểm soát được và ngược lại. Hãy suy nghĩ về những rủi ro liên quan đến ô tô.
Tai nạn giao thông cũng lâu đời như giao thông nhưng theo thời gian, thiệt hại đã
được giảm thiểu. Tất cả mọi thứ từ vạch kẻ đường đến dây an toàn cho đến cảnh sát
giao thông đều giúp ích. Mặc dù ô tô là một trong những công nghệ phát triển nhanh
nhất và toàn cầu hóa nhất trong lịch sử, nhưng tai nạn vốn là những sự kiện cục bộ,
riêng biệt mà thiệt hại cuối cùng đã được ngăn chặn. Nhưng bây giờ một đội xe có thể
được nối mạng với nhau.
Hoặc một hệ thống duy nhất có thể điều khiển các phương tiện tự hành trong suốt
lãnh thổ. Dù có nhiều biện pháp bảo vệ và giao thức bảo mật được áp dụng nhưng quy
mô tác động vẫn rộng hơn nhiều so với những gì chúng ta từng thấy trước đây.
AI tạo ra những rủi ro bất cân xứng ngoài những rủi ro về lô thực phẩm xấu,
tai nạn máy bay hoặc sản phẩm bị lỗi. Rủi ro của nó lan rộng đến toàn bộ xã
hội, khiến nó không còn là một công cụ cùn mà là một đòn bẩy gây ra những hậu
quả toàn cầu. Giống như các thị trường toàn cầu hóa và có tính kết nối cao sẽ
lan truyền sự lây lan trong một cuộc khủng hoảng tài chính, công nghệ cũng vậy.
Quy mô mạng khiến việc ngăn chặn thiệt hại nếu hoặc khi nó xảy ra là gần như
không thể. Các hệ thống toàn cầu được liên kết với nhau là những cơn ác mộng ngăn chặn.
Và chúng ta đang sống trong thời đại của các hệ thống toàn cầu được liên kết với nhau.
Trong làn sóng sắp tới, một điểm duy nhất—một chương trình nhất định, một thay đổi di
truyền—có thể thay đổi mọi thứ.
SIÊU TIẾN HÓA:
TĂNG TỐC VÔ TẬN
Nếu bạn muốn sử dụng công nghệ, bạn có thể hy vọng nó phát triển với tốc độ có thể
quản lý được, mang lại cho xã hội thời gian và không gian để hiểu và thích ứng với
nó. Ô tô một lần nữa là một ví dụ điển hình. Sự phát triển của họ trong thế kỷ qua
cực kỳ nhanh chóng nhưng cũng tạo ra thời gian để đưa ra tất cả các loại tiêu chuẩn
an toàn. Luôn có độ trễ, nhưng các tiêu chuẩn vẫn có thể bắt kịp. Tuy nhiên, với
tốc độ thay đổi của làn sóng sắp tới, điều đó có vẻ khó xảy ra.
Trong bốn mươi năm qua, Internet đã phát triển thành một trong những nền
tảng đổi mới hiệu quả nhất trong lịch sử. Thế giới được số hóa, và thế giới
phi vật chất hóa này phát triển với một tốc độ đáng kinh ngạc. Sự bùng nổ
phát triển đã chứng kiến các dịch vụ được sử dụng rộng rãi nhất trên thế
giới và các doanh nghiệp thương mại lớn nhất trong lịch sử mọc lên chỉ sau
vài năm. Tất cả những điều này được đảm bảo bởi sức mạnh ngày càng tăng và
chi phí tính toán giảm mà chúng ta đã thấy trong chương 2. Hãy xem xét chỉ
riêng định luật Moore sẽ mang lại điều gì trong thập kỷ tới. Nếu nó giữ được, trong
mười năm một đô la sẽ mua cho bạn một trăm lần tính toán của ngày hôm nay.
Chỉ riêng thực tế đó đã gợi ý một số kết quả phi thường.
Mặt trái của nó là sự đổi mới ngoài kỹ thuật số thường kém ngoạn mục hơn. Bên
ngoài thế giới mã không trọng lượng, một dàn đồng ca ngày càng lớn dần tự hỏi
điều gì đã xảy ra với kiểu đổi mới trên diện rộng được thấy, chẳng hạn như vào
cuối thế kỷ 19 hoặc giữa thế kỷ 20. Trong khoảng thời gian ngắn ngủi đó, hầu hết
mọi khía cạnh của thế giới—từ vận tải đến nhà máy, máy bay chạy bằng động cơ đến
vật liệu mới—đã thay đổi hoàn toàn. Nhưng vào những năm đầu của thế kỷ 21, sự đổi
mới đã đi theo con đường ít gặp trở ngại nhất, tập trung vào các bit hơn là
nguyên tử.
Điều đó bây giờ đang thay đổi. Sự siêu tiến hóa của phần mềm đang lan rộng.
Bốn mươi năm tới sẽ chứng kiến cả thế giới nguyên tử được biến đổi thành các bit
ở mức độ phức tạp và trung thực mới, và điều quan trọng là thế giới của các bit
được biến trở lại thành các nguyên tử hữu hình với tốc độ và sự dễ dàng không thể
tưởng tượng được cho đến gần đây.
Nói một cách đơn giản, sự đổi mới trong “thế giới thực” có thể bắt đầu chuyển
động với tốc độ kỹ thuật số, trong thời gian gần như thực, giảm ma sát và ít phụ
thuộc hơn. Bạn sẽ có thể thử nghiệm trong các lĩnh vực nhỏ, nhanh, dễ uốn, tạo ra
các mô phỏng gần như hoàn hảo và sau đó chuyển chúng thành các sản phẩm cụ thể.
Và sau đó làm đi làm lại điều đó, học hỏi, phát triển và cải thiện với tốc độ mà
trước đây không thể thực hiện được trong thế giới nguyên tử tĩnh, đắt tiền.
Nhà vật lý César Hidalgo lập luận rằng cấu hình của vật chất rất quan trọng
vì chúng chứa thông tin. Một chiếc Ferrari có giá trị không phải vì chất liệu thô
của nó mà vì thông tin phức tạp được lưu trữ trong cấu trúc và hình thức phức tạp
của nó; thông tin đặc trưng cho sự sắp xếp các nguyên tử của nó là điều khiến nó
trở thành một chiếc xe đáng mơ ước. Cơ sở tính toán càng mạnh thì điều này càng
trở nên dễ điều khiển. Kết hợp điều đó với AI và các kỹ thuật sản xuất như robot
phức tạp và in 3-D, chúng ta có thể thiết kế, chế tác và sản xuất các sản phẩm
trong thế giới thực với tốc độ, độ chính xác và tính sáng tạo cao hơn.
AI đã giúp tìm ra các vật liệu và hợp chất hóa học mới.
Ví dụ, các nhà khoa học đã sử dụng mạng lưới thần kinh để tạo ra các cấu hình
mới của lithium, có ý nghĩa lớn đối với công nghệ pin.
AI đã giúp thiết kế và chế tạo ô tô bằng máy in 3-D. Trong một số trường hợp,
kết quả cuối cùng trông khác biệt một cách kỳ lạ so với bất kỳ thứ gì do con
người thiết kế, giống như các dạng nhấp nhô và hiệu quả thường thấy trong tự
nhiên. Cấu hình hệ thống dây điện và ống dẫn được kết hợp một cách hữu cơ vào
khung máy để sử dụng không gian tối ưu. Các bộ phận quá phức tạp để chế tạo
bằng công cụ thông thường và phải được in 3-D.
Trong chương 5, chúng ta đã biết những công cụ như AlphaFold đang làm gì
để thúc đẩy công nghệ sinh học. Cho đến gần đây, công nghệ sinh học dựa vào
vô số công việc thủ công trong phòng thí nghiệm: đo lường, dùng pipet, chuẩn
bị mẫu cẩn thận. Bây giờ các mô phỏng sẽ đẩy nhanh quá trình phát hiện vắc xin.
Các công cụ tính toán giúp tự động hóa các phần của quy trình thiết kế, tái
tạo các “mạch sinh học” lập trình các chức năng phức tạp vào tế bào như vi
khuẩn có thể tạo ra một loại protein nhất định. Các khung phần mềm, chẳng
hạn như Cello, gần giống như các ngôn ngữ nguồn mở dành cho thiết kế sinh học
tổng hợp. Điều này có thể kết hợp với những cải tiến nhanh chóng về robot
và tự động hóa trong phòng thí nghiệm cũng như các kỹ thuật sinh học nhanh
hơn như tổng hợp enzyme mà chúng ta đã thấy ở chương 5, mở rộng phạm vi của
sinh học tổng hợp và làm cho nó dễ tiếp cận hơn. Sự tiến hóa sinh học đang
trở thành đối tượng tuân theo các chu kỳ giống như phần mềm.
Giống như các mô hình ngày nay tạo ra hình ảnh chi tiết dựa trên một vài
từ, trong những thập kỷ tới, các mô hình tương tự sẽ tạo ra một hợp chất mới
hoặc thậm chí là toàn bộ sinh vật chỉ với một vài gợi ý bằng ngôn ngữ tự
nhiên. Thiết kế của tổ hợp đó có thể được cải thiện nhờ vô số cuộc thử nghiệm
tự thực hiện, giống như AlphaZero trở thành một chuyên gia cờ vua hoặc kỳ
thủ cờ vây thông qua việc tự chơi. Công nghệ lượng tử, mạnh hơn hàng triệu
lần so với những chiếc máy tính cổ điển mạnh nhất, có thể cho phép điều này
diễn ra ở cấp độ phân tử. Đây chính là ý nghĩa của siêu tiến hóa—một nền tảng
lặp đi lặp lại nhanh chóng để sáng tạo.
Sự phát triển này cũng sẽ không bị giới hạn ở các khu vực cụ thể, có thể dự đoán
được và có thể ngăn chặn được. Nó sẽ ở khắp mọi nơi.
SỬ DỤNG OMNI:
NHIỀU HƠN LÀ NHIỀU HƠN
Bất chấp sự hiểu biết thông thường, tiến bộ trong chăm sóc sức khỏe là một trong
những lĩnh vực bị chậm lại trong sự trì trệ gần đây của sự đổi mới trong lĩnh vực
nguyên tử. Việc khám phá các loại thuốc mới trở nên khó khăn hơn và đắt tiền hơn.
Tuổi thọ trung bình chững lại và thậm chí bắt đầu giảm ở một số bang của Mỹ. Tiến
bộ về các tình trạng như bệnh Alzheimer không đáp ứng được kỳ vọng.
Một trong những lĩnh vực hứa hẹn nhất của AI và là lối thoát cho bức tranh
nghiệt ngã này là khám phá thuốc tự động. Các kỹ thuật AI có thể tìm kiếm trong
không gian rộng lớn các phân tử tiềm năng để tìm ra các phương pháp điều trị khó
nắm bắt nhưng hữu ích. Vào năm 2020, một hệ thống AI đã sàng lọc 100 triệu phân tử
để tạo ra loại kháng sinh có nguồn gốc từ máy học đầu tiên— được gọi là halicin
(vâng, theo tên HAL từ năm 2001: A Space Odyssey) —có khả năng giúp chống lại bệnh
lao. Các công ty khởi nghiệp như Exscientia, cùng với những gã khổng lồ dược phẩm
truyền thống như Sanofi, đã biến AI trở thành động lực thúc đẩy nghiên cứu y học.
Cho đến nay, 18 tài sản lâm sàng đã được tạo ra nhờ sự trợ giúp của các công cụ AI.
Có một mặt trái. Các nhà nghiên cứu đang tìm kiếm những hợp chất hữu ích này đã
đặt ra một câu hỏi khó xử. Điều gì sẽ xảy ra nếu bạn chuyển hướng quá trình khám
phá? Điều gì sẽ xảy ra nếu thay vì tìm kiếm phương pháp chữa trị, bạn lại tìm kiếm
những kẻ giết người? Họ đã tiến hành một cuộc thử nghiệm, yêu cầu AI tạo ra phân tử
của họ tìm ra chất độc. Trong sáu giờ, nó đã xác định được hơn 40 nghìn phân tử có
độc tính tương đương với các loại vũ khí hóa học nguy hiểm nhất, như Novichok. Hóa
ra là trong khám phá ma túy, một trong những lĩnh vực mà AI chắc chắn sẽ tạo ra sự
khác biệt rõ ràng nhất có thể, có rất nhiều cơ hội “sử dụng kép”.
Công nghệ lưỡng dụng là những công nghệ có cả ứng dụng dân sự và quân
sự. Trong Thế chiến thứ nhất, quá trình tổng hợp amoniac được coi là cách
cung cấp lương thực cho thế giới. Nhưng nó cũng cho phép tạo ra chất nổ và
giúp mở đường cho vũ khí hóa học. Hệ thống điện tử phức tạp dành cho máy
bay chở khách có thể được tái sử dụng cho tên lửa chính xác. Ngược lại, Hệ
thống Định vị Toàn cầu ban đầu là một hệ thống quân sự, nhưng hiện nay được
người tiêu dùng sử dụng vô số hàng ngày. Khi ra mắt, PlayStation 2 được Bộ
Quốc phòng Hoa Kỳ đánh giá là mạnh mẽ đến mức nó có khả năng giúp các quân
đội thù địch thường bị từ chối truy cập vào phần cứng như vậy. Các công
nghệ lưỡng dụng vừa là công cụ và vũ khí vừa hữu ích vừa có khả năng phá
hoại. Điều mà khái niệm này nắm bắt là cách các công nghệ có xu hướng hướng
tới cái chung và một loại công nghệ nhất định có nguy cơ cao hơn vì điều
này. Chúng có thể được thực hiện theo nhiều mục đích—tốt, xấu, ở mọi nơi ở
giữa—thường gây ra những hậu quả khó dự đoán.
Nhưng vấn đề thực sự là không chỉ có sinh học hàng đầu hay các lò phản
ứng hạt nhân mới có công dụng kép. Hầu hết các công nghệ đều có tiềm năng
ứng dụng quân sự và dân sự; hầu hết các công nghệ theo một cách nào đó đều
có tác dụng kép. Và công nghệ càng mạnh thì càng có nhiều mối lo ngại về
việc nó có thể có bao nhiêu công dụng.
Các công nghệ của làn sóng sắp tới rất mạnh mẽ, chính xác là vì về cơ
bản chúng có tính tổng quát. Nếu bạn đang chế tạo một đầu đạn hạt nhân, thì
rõ ràng mục đích của nó là gì. Nhưng một hệ thống học sâu có thể được thiết
kế để chơi trò chơi nhưng vẫn có khả năng điều khiển một đội máy bay ném
bom. Sự khác biệt không phải là điều hiển nhiên trước đó.
Một thuật ngữ thích hợp hơn cho các công nghệ của làn sóng sắp tới là
“sử dụng đa năng”, một khái niệm nắm bắt được mức độ tổng quát tuyệt đối,
tính linh hoạt cực độ được thể hiện. Các công nghệ sử dụng đa dạng như hơi
nước hoặc điện có tác động xã hội và lan tỏa rộng hơn so với các công nghệ
hẹp hơn. Nếu AI thực sự là nguồn điện mới, thì giống như điện, nó sẽ là tiện
ích theo yêu cầu, thâm nhập và cung cấp năng lượng cho hầu hết mọi khía cạnh
của cuộc sống hàng ngày, xã hội, nền kinh tế: một mục đích chung
công nghệ được nhúng ở khắp mọi nơi. Việc chứa đựng những thứ như thế này luôn
khó hơn nhiều so với việc chứa đựng một công nghệ nhiệm vụ đơn lẻ, bị hạn chế,
bị mắc kẹt trong một ngóc ngách nhỏ với ít sự phụ thuộc.
Các hệ thống AI bắt đầu sử dụng các kỹ thuật chung như học sâu cho các mục
đích cụ thể như quản lý việc sử dụng năng lượng tại trung tâm dữ liệu hoặc
chơi cờ vây. Điều đó đang thay đổi. Giờ đây, các hệ thống đơn lẻ như Gato,
chuyên gia tổng quát của DeepMind, có thể thực hiện hơn sáu trăm nhiệm vụ khác
nhau. Cùng một mạng có thể chơi trò chơi Atari, hình ảnh chú thích, trả lời
câu hỏi và xếp các khối bằng cánh tay robot thực sự. Gato được đào tạo không
chỉ bằng văn bản mà còn bằng hình ảnh, mômen xoắn tác động lên cánh tay robot,
cách nhấn nút khi chơi trò chơi trên máy tính, v.v. Vẫn còn rất sớm và các hệ
thống thực sự tổng quát vẫn còn ở một chặng đường dài, nhưng đến một lúc nào
đó, những khả năng này sẽ mở rộng tới hàng nghìn hoạt động.
Hãy xem xét sinh học tổng hợp thông qua lăng kính đa dụng.
Cuộc sống kỹ thuật là một kỹ thuật hoàn toàn chung có tiềm năng sử dụng gần
như vô hạn; nó có thể tạo ra vật liệu xây dựng, giải quyết bệnh tật và lưu trữ
dữ liệu. Nhiều hơn là nhiều hơn, và có lý do chính đáng cho việc này. Công
nghệ sử dụng đa dạng có giá trị hơn những công nghệ hẹp. Ngày nay, các nhà
công nghệ không muốn thiết kế những công nghệ mang tính ứng dụng hạn chế, cụ
thể, đơn chức năng.
Thay vào đó, mục tiêu là thiết kế những thứ giống điện thoại thông minh hơn:
điện thoại nhưng quan trọng hơn là thiết bị để chụp ảnh, giữ dáng, chơi trò
chơi, điều hướng thành phố, gửi email, v.v.
Theo thời gian, công nghệ có xu hướng hướng tới tính tổng quát. Điều này
có nghĩa là việc sử dụng làn sóng sắp tới có thể làm vũ khí hoặc có hại sẽ có
thể thực hiện được bất kể điều này có được dự định hay không. Đơn giản chỉ cần
tạo ra các công nghệ dân sự sẽ có tác động đến an ninh quốc gia. Việc dự đoán
toàn bộ các trường hợp sử dụng trong làn sóng sử dụng đa dạng nhất trong lịch
sử khó hơn bao giờ hết.
Khái niệm về một công nghệ mới được điều chỉnh cho nhiều mục đích sử dụng
không phải là mới. Một công cụ đơn giản như một con dao có thể chặt hành hoặc
tạo ra một cuộc giết chóc loạn trí. Ngay cả những công nghệ có vẻ cụ thể cũng có
ý nghĩa sử dụng kép: micrô đã hỗ trợ cả các cuộc biểu tình ở Nuremberg và The
Beatles. Điều khác biệt ở làn sóng sắp tới là nó được nhúng nhanh như thế nào,
nó lan rộng ra toàn cầu như thế nào, nó có thể được cấu thành thành các bộ phận
có thể thay thế dễ dàng như thế nào và các ứng dụng của nó có thể mạnh mẽ và
rộng khắp như thế nào. Nó bộc lộ những tác động phức tạp đối với mọi thứ, từ
truyền thông đến sức khỏe tâm thần, thị trường cho đến y học. Đây là vấn đề ngăn
chặn quá lớn.
Suy cho cùng, chúng ta đang nói về những nguyên tắc cơ bản như trí thông minh và cuộc sống.
Nhưng cả hai thuộc tính đó đều có một đặc điểm thậm chí còn thú vị hơn tính
tổng quát của chúng.
QUYỀN TỰ CHỦ VÀ HƠN NỮA: CON NGƯỜI SẼ Ở
TRONG VÒNG LẶP?
Sự phát triển công nghệ đã tăng tốc trong nhiều thế kỷ. Các tính năng sử dụng
đa dạng và tác động bất đối xứng sẽ được phóng đại trong làn sóng sắp tới, nhưng
ở một mức độ nào đó, chúng là đặc tính cố hữu của tất cả công nghệ. Đó không
phải là trường hợp tự chủ. Trong suốt lịch sử, công nghệ “chỉ” là một công cụ,
nhưng nếu công cụ đó đi vào cuộc sống thì sao?
Các hệ thống tự trị có thể tương tác với môi trường xung quanh và thực hiện
hành động mà không cần sự chấp thuận ngay lập tức của con người. Trong nhiều thế
kỷ, ý tưởng cho rằng công nghệ bằng cách nào đó đang vượt khỏi tầm kiểm soát,
một lực lượng tự định hướng và tự vận hành vượt ra ngoài phạm vi quyền lực của
con người, vẫn là một điều hư cấu.
Không còn nữa.
Công nghệ luôn cho phép chúng ta làm được nhiều việc hơn, nhưng điều quan
trọng nhất là con người vẫn đang thực hiện công việc đó. Nó đã tận dụng các khả
năng hiện có của chúng tôi và tự động hóa các nhiệm vụ được mã hóa chính xác.
Cho đến nay, việc giám sát và quản lý liên tục vẫn là mặc định.
Công nghệ vẫn ở mức độ ít nhiều dưới sự kiểm soát có ý nghĩa của con người. Tự
chủ hoàn toàn là khác nhau về chất.

Đi xe tự hành. Trong một số điều kiện nhất định ngày nay, họ có thể
lái xe trên đường mà không cần người lái điều khiển trực tiếp hoặc rất ít.
Các nhà nghiên cứu trong lĩnh vực này đã phân loại quyền tự chủ từ cấp
độ 0, không có quyền tự chủ nào, đến cấp độ 5, nơi một phương tiện có
thể tự lái trong mọi điều kiện và người lái chỉ cần nhập điểm đến rồi có
thể ngủ ngon lành. Bạn sẽ không sớm tìm thấy xe cấp 5 trên đường, nhất
là vì lý do pháp lý và bảo hiểm.
Làn sóng tự chủ mới báo trước một thế giới nơi sự can thiệp và giám
sát liên tục ngày càng không cần thiết. Hơn nữa, với mỗi lần tương tác,
chúng ta đang dạy cho máy móc cách tự chủ thành công. Trong mô hình này,
con người không cần phải tốn công sức xác định cách thức thực hiện một
nhiệm vụ. Thay vào đó, chúng tôi chỉ xác định mục tiêu cấp cao và dựa
vào máy móc để tìm ra cách tối ưu để đạt được mục tiêu đó. Như người ta
thường nói, việc giữ con người “theo dõi” là điều đáng mong muốn nhưng
không bắt buộc.
Không ai nói với AlphaGo rằng nước đi 37 là một ý tưởng hay. Nó chủ
yếu tự mình khám phá ra cái nhìn sâu sắc này. Chính tính năng này đã
khiến tôi buộc phải xem DQN chơi Breakout. Với một số mục tiêu được xác
định rõ ràng, hiện nay đã tồn tại các hệ thống có thể tìm ra chiến lược
riêng của mình để có hiệu quả. AlphaGo và DQN bản thân chúng không có
tính tự chủ. Nhưng chúng gợi ý về một hệ thống tự cải thiện sẽ trông như
thế nào. Không ai tự tay mã hóa GPT-4 để viết như Jane Austen, hoặc tạo
một bài thơ haiku nguyên gốc hoặc tạo bản sao tiếp thị cho một trang web
bán xe đạp. Những tính năng này là những tác động nổi bật của một kiến
trúc rộng hơn mà kết quả đầu ra của nó không bao giờ được các nhà thiết
kế của nó quyết định trước. Đây là bước đầu tiên trên nấc thang hướng
tới quyền tự chủ ngày càng lớn hơn. Nghiên cứu nội bộ về GPT-4 đã kết
luận rằng nó “có thể” không có khả năng hoạt động tự động hoặc tự sao
chép, nhưng trong vài ngày kể từ khi ra mắt, người dùng đã tìm ra cách
để khiến hệ thống yêu cầu tài liệu riêng và viết các tập lệnh để tự sao
chép và chiếm lĩnh các máy khác. Nghiên cứu ban đầu thậm chí còn tuyên
bố đã tìm thấy “tia lửa AGI” trong mô hình, đồng thời nói thêm rằng nó
“rất gần với hiệu suất ở cấp độ con người”. Những điều này bây giờ đang được xem xét.
Các hình thức tự chủ mới có khả năng tạo ra một loạt các hiệu ứng mới
lạ, khó dự đoán. Việc dự đoán các bộ gen riêng biệt sẽ hoạt động như thế
nào là vô cùng khó khăn. Hơn nữa, một khi các nhà nghiên cứu thực hiện
thay đổi gen dòng mầm ở một loài, những thay đổi đó có thể tồn tại ở các
sinh vật sống trong nhiều thiên niên kỷ, vượt xa tầm kiểm soát hoặc dự đoán.
Chúng có thể vang vọng đến vô số thế hệ. Cách chúng tiếp tục phát triển
hoặc tương tác với những thay đổi khác ở những khoảng cách này chắc chắn
là không rõ ràng—và nằm ngoài tầm kiểm soát. Các sinh vật tổng hợp thực sự
đang có một cuộc sống riêng.
Con người chúng ta phải đối mặt với một thách thức duy nhất: Liệu những phát minh mới có nằm
ngoài khả năng của chúng ta không? Những người sáng tạo trước đây có thể giải thích cách thức hoạt
động của một thứ gì đó và lý do tại sao nó lại làm như vậy, ngay cả khi điều này đòi hỏi rất nhiều chi tiết.
Điều đó ngày càng không còn đúng nữa. Nhiều công nghệ và hệ thống đang trở
nên phức tạp đến mức vượt quá khả năng hiểu biết thực sự của bất kỳ cá
nhân nào: điện toán lượng tử và các công nghệ khác hoạt động theo giới hạn
của những gì có thể biết được.
Một nghịch lý của làn sóng sắp tới là các công nghệ của nó phần lớn
nằm ngoài khả năng hiểu biết của chúng ta ở mức độ chi tiết nhưng vẫn nằm
trong khả năng sáng tạo và sử dụng của chúng ta. Trong AI, các mạng lưới
thần kinh hướng tới quyền tự chủ hiện tại không thể giải thích được. Bạn
không thể hướng dẫn ai đó thực hiện quá trình ra quyết định để giải thích
chính xác lý do tại sao một thuật toán lại đưa ra một dự đoán cụ thể. Các
kỹ sư không thể nhìn sâu vào bên trong và dễ dàng giải thích nguyên nhân
khiến điều gì đó xảy ra. GPT-4, AlphaGo và phần còn lại là hộp đen, đầu
ra và quyết định của chúng dựa trên chuỗi tín hiệu phút mờ đục và phức
tạp. Các hệ thống tự trị có thể và có thể giải thích được, nhưng thực tế
là phần lớn làn sóng sắp tới hoạt động ở rìa của những gì chúng ta có thể
hiểu được khiến chúng ta phải tạm dừng. Không phải lúc nào chúng ta cũng
có thể dự đoán những hệ thống tự trị này sẽ làm gì tiếp theo; đó là bản
chất của sự tự chủ.
Tuy nhiên, ngay ở giai đoạn tiên tiến nhất, một số nhà nghiên cứu AI
muốn tự động hóa mọi khía cạnh của việc xây dựng hệ thống AI, thúc đẩy
quá trình siêu tiến hóa đó, nhưng có khả năng có mức độ độc lập triệt để
thông qua việc tự hoàn thiện. AI đang tìm cách cải thiện thuật toán của riêng
mình. Điều gì xảy ra khi họ kết hợp điều này với các hành động tự động trên web,
như trong Thử nghiệm Turing hiện đại và ACI, tiến hành chu trình R&D của riêng họ?
VẤN ĐỀ KHỎI ĐÁI
Tôi thường cảm thấy có quá nhiều sự tập trung vào các kịch bản AGI xa xôi, do
những thách thức ngắn hạn rõ ràng hiện diện trong phần lớn làn sóng sắp tới. Tuy
nhiên, bất kỳ cuộc thảo luận nào về việc ngăn chặn đều phải thừa nhận rằng nếu
hoặc khi các công nghệ giống AGI xuất hiện, chúng sẽ gây ra những vấn đề về ngăn
chặn vượt xa bất kỳ điều gì khác mà chúng ta từng gặp phải. Con người thống trị
môi trường của chúng ta vì trí thông minh của chúng ta. Theo đó, một thực thể
thông minh hơn có thể thống trị chúng ta.
Nhà nghiên cứu AI Stuart Russell gọi nó là “vấn đề khỉ đột”: khỉ đột có thể chất
khỏe mạnh và dẻo dai hơn bất kỳ con người nào, nhưng chính chúng mới là loài đang
gặp nguy hiểm hoặc đang sống trong vườn thú; họ là những người bị chứa đựng.
Chúng tôi, với cơ bắp nhỏ bé nhưng bộ não to lớn, thực hiện nhiệm vụ ngăn chặn.
Bằng cách tạo ra thứ gì đó thông minh hơn chúng ta, chúng ta có thể đặt mình
vào vị trí của những người anh em linh trưởng của mình. Với tầm nhìn dài hạn,
những người tập trung vào các kịch bản AGI có quyền lo ngại. Quả thực, có một
trường hợp chắc chắn rằng theo định nghĩa, siêu trí tuệ sẽ hoàn toàn không thể
kiểm soát hoặc ngăn chặn được. Một “sự bùng nổ trí tuệ” là thời điểm mà AI có thể
tự cải thiện bản thân nhiều lần, liên tục cải thiện bản thân theo những cách nhanh
hơn và hiệu quả hơn. Đây là công nghệ dứt khoát không thể kiểm soát và không thể
kiểm soát. Sự thật trắng trợn là không ai biết khi nào, nếu hoặc chính xác làm thế
nào AI có thể vượt qua chúng ta và điều gì sẽ xảy ra tiếp theo; không ai biết khi
nào hoặc liệu họ có trở nên tự chủ hoàn toàn hay không hoặc làm cách nào để khiến
họ cư xử với nhận thức và sự phù hợp với các giá trị của chúng ta, giả sử rằng
chúng ta có thể giải quyết những giá trị đó ngay từ đầu.

Không ai thực sự biết làm thế nào chúng ta có thể chứa chính những tính
năng đang được nghiên cứu kỹ lưỡng trong làn sóng sắp tới. Sẽ đến một thời
điểm mà công nghệ hoàn toàn có thể định hướng sự phát triển của chính nó; nơi
nó phải tuân theo các quá trình cải tiến đệ quy; nơi nó vượt quá sự giải thích;
do đó không thể dự đoán nó sẽ hành xử như thế nào trong tự nhiên; Nói tóm lại,
nơi chúng ta đạt đến giới hạn của cơ quan và sự kiểm soát của con người.
Cuối cùng, dưới những hình thức kịch tính nhất, làn sóng sắp tới có thể
đồng nghĩa với việc loài người sẽ không còn đứng đầu chuỗi thức ăn nữa. Homo
technologicus cuối cùng có thể bị đe dọa bởi sự sáng tạo của chính nó. Câu hỏi
thực sự không phải là liệu làn sóng có đến hay không. Rõ ràng là như vậy; chỉ
cần nhìn là bạn có thể thấy nó đang hình thành rồi. Với những rủi ro như thế
này, câu hỏi thực sự là tại sao khó có thể coi đó là điều gì khác ngoài điều
không thể tránh khỏi.
CHƯƠNG 8
ƯU ĐÃI KHÔNG THỂ NGỪNG NGỪNG
Tầm quan trọng của Alphago một phần là vấn đề thời gian:
Bước đột phá đã khiến các chuyên gia ngạc nhiên khi đến nhanh hơn hầu hết cộng
đồng AI từng nghĩ là có thể. Thậm chí vài ngày trước cuộc thi công khai đầu tiên
vào tháng 3 năm 2016, các nhà nghiên cứu nổi tiếng đã nghĩ rằng AI đơn giản là
không thể giành chiến thắng ở cấp độ cờ vây này. Tại DeepMind, chúng tôi vẫn
không chắc chương trình của mình có thắng được khi so tài với một đối thủ bậc
thầy là con người hay không.
Chúng tôi coi cuộc thi là một thách thức kỹ thuật lớn, một điểm dừng
trong sứ mệnh nghiên cứu rộng lớn hơn. Trong cộng đồng AI, nó đại diện
cho thử nghiệm công khai cao cấp đầu tiên về học tăng cường sâu và là
một trong những ứng dụng nghiên cứu đầu tiên của một cụm tính toán GPU rất lớn.
Trên báo chí, trận đấu giữa AlphaGo và Lee Sedol được giới thiệu như một
trận chiến hoành tráng: con người đấu với máy móc; tốt nhất và thông minh
nhất của con người trước sức mạnh lạnh lùng, vô hồn của máy tính. Đưa ra
tất cả những trò lố mệt mỏi của Kẻ hủy diệt và chúa tể robot.
Nhưng bên dưới bề mặt, một khía cạnh khác, quan trọng hơn đang trở
nên rõ ràng, một sự căng thẳng mà tôi đã hơi lo lắng trước cuộc thi,
nhưng đường nét của nó lại hiện rõ hơn khi sự kiện diễn ra. AlphaGo
không chỉ là cuộc chiến giữa con người và máy móc. Khi Lee Sedol đối
đầu với AlphaGo, DeepMind được đại diện bởi Union Jack, trong khi phe
Sedol treo taegeukgi , lá cờ không thể nhầm lẫn của Hàn Quốc. Tây so
với Đông. Hàm ý về sự cạnh tranh quốc gia này là một khía cạnh của
cuộc thi mà tôi nhanh chóng hối hận.
Thật khó để nói quá mức độ phổ biến của cuộc thi ở châu Á. Ở phương Tây,
quá trình tố tụng được theo dõi bởi những người đam mê AI cốt lõi và thu hút
sự chú ý của một số tờ báo. Đó là một thời điểm quan trọng trong lịch sử công
nghệ—đối với những người quan tâm đến những điều như vậy. Tuy nhiên, trên
khắp châu Á, sự kiện này còn lớn hơn cả Super Bowl. Hơn 280 triệu người đã
xem trực tiếp. Chúng tôi đã tiếp quản toàn bộ khách sạn ở trung tâm thành phố
Seoul, được bao quanh bởi các thành viên thường trực của giới truyền thông
địa phương và quốc tế. Bạn khó có thể di chuyển trước hàng trăm nhiếp ảnh gia
và máy quay truyền hình. Cường độ không giống bất cứ điều gì tôi từng trải
qua trước đây, một mức độ xem xét kỹ lưỡng và cường điệu có vẻ xa lạ đối với
những người quan sát phương Tây, một trò chơi khó hiểu dành cho những người
đam mê toán học. Có thể nói, các nhà phát triển AI không quen với điều này.
Ở châu Á không chỉ có những người đam mê công nghệ mới theo dõi. Đó là
tất cả mọi người. Và rõ ràng là những người quan sát bao gồm các công ty công
nghệ, chính phủ và quân đội. Kết quả đã gửi một làn sóng chấn động đến tất cả
họ. Tầm quan trọng của nó không bị mất đi đối với bất kỳ ai. Kẻ thách thức,
một công ty phương Tây, có trụ sở tại London, thuộc sở hữu của người Mỹ, vừa
tiến vào một trò chơi cổ xưa, mang tính biểu tượng, được yêu thích, cắm cờ
của mình trên sân và tiêu diệt đội chủ nhà theo đúng nghĩa đen. Cứ như thể
một nhóm robot Hàn Quốc đã xuất hiện tại sân vận động Yankee và đánh bại đội
bóng chày toàn sao của Mỹ.
Đối với chúng tôi sự kiện này là một thí nghiệm khoa học. Đó là một màn
trình diễn mạnh mẽ—và vâng, rất thú vị—về những kỹ thuật tiên tiến mà chúng
tôi đã mất nhiều năm cố gắng hoàn thiện. Nó thật thú vị từ góc độ kỹ thuật,
phấn khích vì sự cạnh tranh của nó và gây bối rối khi trở thành trung tâm của
rạp xiếc truyền thông. Đối với nhiều người ở châu Á, đó là điều đau đớn hơn,
một ví dụ về lòng tự hào dân tộc và khu vực bị tổn thương.
Seoul không phải là dấu chấm hết cho AlphaGo. Một năm sau, vào tháng 5
năm 2017, chúng tôi tham gia giải đấu thứ hai, lần này là đấu với tay vợt số
một thế giới: Ke Jie. Trận đấu này diễn ra ở Ô Trấn, Trung Quốc, tại Hội nghị
Thượng đỉnh Cờ vây Tương lai. Sự tiếp nhận của chúng tôi ở Ô Trấn rất khác
biệt. Việc phát trực tiếp các trận đấu đã bị cấm ở Cộng hòa Nhân dân. Không
được phép đề cập đến Google.
Môi trường chặt chẽ hơn, được kiểm soát nhiều hơn; câu chuyện được cơ quan chức
năng quản lý chặt chẽ. Không còn gánh xiếc truyền thông nữa. Ẩn ý rất rõ ràng: đây
không chỉ là một trò chơi nữa. AlphaGo lại giành chiến thắng, nhưng nó đã làm được
điều đó trong một bầu không khí căng thẳng không thể nhầm lẫn.
Có điều gì đó đã thay đổi. Nếu Seoul đưa ra gợi ý, Wuzhen sẽ đưa nó về nhà.
Khi bụi lắng xuống, rõ ràng AlphaGo là một phần của câu chuyện lớn hơn nhiều
so với một danh hiệu, hệ thống hoặc công ty; đó là việc các cường quốc tham
gia vào một trò chơi cạnh tranh công nghệ mới và nguy hiểm – cùng một loạt các
động lực đan xen và mạnh mẽ đến mức áp đảo đảm bảo rằng làn sóng sắp tới thực
sự đang đến.
công nghệ được thúc đẩy bởi tất cả những trình điều khiển quá thô sơ và cơ bản
của con người. Từ tò mò đến khủng hoảng, may mắn đến sợ hãi, về cốt lõi, công
nghệ xuất hiện để đáp ứng nhu cầu của con người. Nếu mọi người có lý do thuyết
phục để xây dựng và sử dụng nó, nó sẽ được xây dựng và sử dụng. Tuy nhiên,
trong hầu hết các cuộc thảo luận về công nghệ, mọi người vẫn mắc kẹt với việc
nó là gì mà quên mất lý do tại sao nó được tạo ra ngay từ đầu. Đây không phải
là về một số thuyết quyết định công nghệ bẩm sinh. Đây là về ý nghĩa của việc trở thành
nhân loại.
Trước đó chúng ta đã thấy rằng cho đến nay, không có làn sóng công nghệ nào
bị ngăn chặn. Trong chương này chúng ta xem xét tại sao lịch sử có thể lặp lại;
tại sao, nhờ hàng loạt động lực vĩ mô đằng sau sự phát triển và lan rộng của
công nghệ, quả sẽ không còn trên cây; tại sao sóng sẽ vỡ. Chừng nào những ưu
đãi này còn được áp dụng thì câu hỏi quan trọng là “chúng ta có nên không?” là
tranh luận.
Động lực đầu tiên liên quan đến những gì tôi đã trải nghiệm với AlphaGo: sự
cạnh tranh quyền lực lớn. Sự cạnh tranh về công nghệ là một thực tế địa chính trị.
Quả thực nó luôn luôn như vậy. Các quốc gia cảm thấy nhu cầu hiện hữu để theo
kịp các đồng nghiệp của họ. Đổi mới là sức mạnh. Thứ hai là một hệ sinh thái
nghiên cứu toàn cầu với các nghi thức ăn sâu mang lại lợi ích mở
xuất bản, sự tò mò và theo đuổi những ý tưởng mới bằng mọi giá. Sau đó là những
lợi ích tài chính to lớn từ công nghệ và nhu cầu cấp thiết phải giải quyết những
thách thức xã hội toàn cầu của chúng ta. Và động lực cuối cùng có lẽ là yếu tố
con người nhất: cái tôi.
Trước đó, hãy quay lại địa chính trị, nơi mà quá khứ gần đây mang lại một bài
học sâu sắc.
NIỀM TỰ HÀO QUỐC GIA, SỰ CẦN THIẾT CHIẾN LƯỢC
Nước Mỹ thời hậu chiến coi ưu thế công nghệ của mình là điều hiển nhiên.
Sputnik đã đánh thức nó. Mùa thu năm 1957, Liên Xô phóng Sputnik, vệ tinh nhân
tạo đầu tiên trên thế giới, lần đầu tiên loài người xâm phạm không gian. Với kích
thước bằng một quả bóng bãi biển, nó vẫn mang tính tương lai không tưởng.
Sputnik ở trên đó để thế giới có thể nhìn thấy, hay nói đúng hơn là nghe thấy
những tiếng bíp ngoài trái đất của nó phát đi khắp hành tinh. Kéo nó ra là một kỳ
tích không thể phủ nhận.
Đây là một cuộc khủng hoảng đối với nước Mỹ, một Trân Châu Cảng về công nghệ.
Chính sách đã phản ứng. Khoa học và công nghệ, từ trường trung học đến phòng thí
nghiệm tiên tiến, đã trở thành ưu tiên quốc gia với nguồn tài trợ mới và các cơ
quan mới như NASA và DARPA. Nguồn lực khổng lồ đã được đầu tư vào các dự án công
nghệ lớn, đặc biệt là các sứ mệnh Apollo. Những điều này đã thúc đẩy nhiều tiến
bộ quan trọng trong lĩnh vực tên lửa, vi điện tử và lập trình máy tính. Các liên
minh non trẻ như NATO đã được củng cố. Mười hai năm sau, chính Hoa Kỳ chứ không
phải Liên Xô đã thành công trong việc đưa con người lên mặt trăng. Liên Xô gần
như phá sản khi cố gắng theo kịp. Với Sputnik, Nga đã vượt qua Mỹ, một thành tựu
kỹ thuật mang tính lịch sử với những phân nhánh địa chính trị to lớn. Nhưng khi
nước Mỹ cần phải bước lên, họ đã làm như vậy.
Giống như Sputnik cuối cùng đã đưa Hoa Kỳ trở thành một siêu cường về tên
lửa, công nghệ vũ trụ, máy tính và tất cả các ứng dụng quân sự và dân sự của
chúng, một điều gì đó tương tự hiện đang diễn ra.

nơi ở Trung Quốc. AlphaGo nhanh chóng được coi là khoảnh khắc Sputnik của
Trung Quốc đối với AI. Người Mỹ và phương Tây, giống như họ đã làm trong
những ngày đầu của Internet, đang đe dọa sẽ giành lấy bước tiến về một
công nghệ tạo nên kỷ nguyên. Đây là lời nhắc nhở rõ ràng nhất có thể có
rằng Trung Quốc, bị đánh bại trong trò tiêu khiển quốc gia, một lần nữa
có thể thấy mình bị bỏ xa biên giới.
Ở Trung Quốc, cờ vây không chỉ là một trò chơi. Nó đại diện cho một
mối quan hệ rộng lớn hơn về lịch sử, cảm xúc và tính toán chiến lược.
Trung Quốc đã cam kết đầu tư mạnh vào khoa học và công nghệ, nhưng AlphaGo
đã giúp chính phủ tập trung sâu sắc hơn vào AI.
Trung Quốc với hàng nghìn năm lịch sử đã từng là lò thử thách đổi mới
công nghệ thế giới; giờ đây họ đau đớn nhận ra mình đã tụt lại phía sau
như thế nào, thua cuộc chạy đua công nghệ vào tay người châu Âu và người
Mỹ trên nhiều mặt trận khác nhau, từ thuốc men cho đến tàu sân bay. Nó đã
phải chịu đựng một “thế kỷ tủi nhục”, như cách gọi của Đảng Cộng sản Trung
Quốc (ĐCSTQ). Đảng tin rằng điều đó sẽ không bao giờ xảy ra nữa.
ĐCSTQ lập luận rằng đã đến lúc phải lấy lại vị trí xứng đáng của mình.
Theo lời của Tập Cận Bình khi phát biểu tại Đại hội Đảng Cộng sản Trung
Quốc lần thứ 20 vào năm 2022, “để đáp ứng nhu cầu chiến lược”, đất nước
“phải coi khoa học và công nghệ là lực lượng sản xuất số một, nhân tài là
nguồn lực số một, [và] đổi mới là động lực số một.”
Mô hình từ trên xuống của Trung Quốc có nghĩa là nước này có thể huy
động toàn bộ nguồn lực của nhà nước cho mục đích công nghệ. Ngày nay,
Trung Quốc có chiến lược quốc gia rõ ràng để trở thành nước dẫn đầu thế
giới về AI vào năm 2030. Kế hoạch phát triển trí tuệ nhân tạo thế hệ mới,
được công bố chỉ hai tháng sau khi Ke Jie bị AlphaGo đánh bại, nhằm mục
đích khai thác chính phủ, quân đội, các tổ chức nghiên cứu, và ngành công
nghiệp trong một sứ mệnh tập thể. Kế hoạch tuyên bố: “Đến năm 2030, các
lý thuyết, công nghệ và ứng dụng AI của Trung Quốc sẽ đạt được trình độ
hàng đầu thế giới”, “đưa Trung Quốc trở thành quốc gia đổi mới AI hàng đầu thế giới”.
trung tâm." Từ quốc phòng đến thành phố thông minh, lý thuyết cơ bản đến ứng
dụng mới, Trung Quốc sẽ chiếm lĩnh “tầm cao chỉ huy” của AI.
Những tuyên bố táo bạo này không chỉ là sự giả vờ trống rỗng. Khi tôi
viết bài này, chỉ sáu năm sau khi Trung Quốc công bố kế hoạch, Hoa Kỳ và các
quốc gia phương Tây khác không còn dẫn đầu trong nghiên cứu AI nữa. Các
trường đại học như Thanh Hoa và Bắc Kinh đang cạnh tranh với các tổ chức
phương Tây như Stanford, MIT và Oxford. Thật vậy, Thanh Hoa xuất bản nhiều
nghiên cứu về AI hơn bất kỳ tổ chức học thuật nào khác trên hành tinh. Trung
Quốc có tỷ lệ bài báo được trích dẫn nhiều nhất về AI ngày càng tăng và ấn
tượng. Về khối lượng nghiên cứu AI, các tổ chức Trung Quốc đã xuất bản số
lượng bài báo về AI nhiều gấp 4,5 lần so với các đối tác Hoa Kỳ kể từ năm
2010 và nhiều hơn cả Hoa Kỳ, Anh, Ấn Độ và Đức cộng lại.
Nó không chỉ là AI. Từ công nghệ sạch đến khoa học sinh học, Trung Quốc
phát triển mạnh mẽ trên nhiều công nghệ cơ bản, đầu tư ở quy mô hoành tráng,
một gã khổng lồ IP đang phát triển mang “đặc sắc Trung Quốc”.
Trung Quốc đã vượt qua Hoa Kỳ về số lượng Tiến sĩ được đào tạo vào năm 2007,
nhưng kể từ đó, đầu tư vào và mở rộng các chương trình đã trở nên đáng kể,
tạo ra số lượng Tiến sĩ STEM gần gấp đôi so với Hoa Kỳ mỗi năm. Hơn bốn trăm
“phòng thí nghiệm trọng điểm của nhà nước” là trụ cột của một hệ thống nghiên
cứu công-tư được tài trợ dồi dào bao gồm mọi thứ từ sinh học phân tử đến
thiết kế chip. Trong những năm đầu của thế kỷ 21, chi tiêu cho R&D của Trung
Quốc chỉ bằng 12% của Mỹ. Đến năm 2020, tỷ lệ này là 90%. Theo xu hướng hiện
tại, nó sẽ đi trước đáng kể vào giữa những năm 2020 vì nó đã có trong các
đơn xin cấp bằng sáng chế.
Trung Quốc là quốc gia đầu tiên thực hiện tàu thăm dò ở vùng tối của mặt
trăng. Không có quốc gia nào khác thậm chí đã thử điều này. Nó có nhiều siêu
máy tính trong số 500 siêu máy tính hàng đầu thế giới hơn bất kỳ nơi nào
khác. Tập đoàn BGI, một gã khổng lồ về di truyền có trụ sở tại Thâm Quyến,
có năng lực giải trình tự DNA phi thường, được cả tư nhân và nhà nước hậu
thuẫn, hàng nghìn nhà khoa học và kho dự trữ dữ liệu DNA cũng như năng lực
tính toán khổng lồ. Tập Cận Bình rõ ràng kêu gọi một “cuộc cách mạng robot”: Trung Quốc
cài đặt nhiều robot bằng phần còn lại của thế giới cộng lại. Nó đã chế tạo tên
lửa siêu thanh mà Hoa Kỳ cho là cách đây nhiều năm, là công ty dẫn đầu thế giới
trong các lĩnh vực từ truyền thông 6G đến quang điện và là nơi đặt trụ sở của các
công ty công nghệ lớn như Tencent, Alibaba, DJI, Huawei và ByteDance.
Điện toán lượng tử là một lĩnh vực chuyên môn đáng chú ý của Trung Quốc. Sau
vụ rò rỉ thông tin mật của Edward Snowden từ các chương trình tình báo của Mỹ,
Trung Quốc trở nên đặc biệt hoang tưởng và mong muốn xây dựng một nền tảng liên
lạc an toàn. Một khoảnh khắc khác của Sputnik. Năm 2014, Trung Quốc đã nộp số
lượng bằng sáng chế công nghệ lượng tử tương đương với Hoa Kỳ; đến năm 2018 nó đã
nộp đơn nhiều gấp đôi.
Năm 2016, Trung Quốc đã phóng “vệ tinh lượng tử” đầu tiên trên thế giới,
Micius, vào không gian, một phần của cơ sở hạ tầng thông tin liên lạc mới, được
cho là an toàn. Nhưng Micius chỉ là bước khởi đầu trong hành trình tìm kiếm một
mạng internet lượng tử không thể hack được của Trung Quốc. Một năm sau, Trung
Quốc đã xây dựng một đường liên kết lượng tử dài 2.000 km giữa Thượng Hải và Bắc
Kinh để truyền tải thông tin tài chính và quân sự an toàn. Họ đang đầu tư hơn 10
tỷ USD để thành lập Phòng thí nghiệm Quốc gia về Khoa học Thông tin Lượng tử ở
Hợp Phì, cơ sở lớn nhất thế giới về lĩnh vực này. Họ nắm giữ các kỷ lục về liên
kết các qubit với nhau thông qua sự vướng víu lượng tử, một bước quan trọng trên
con đường hướng tới các máy tính lượng tử hoàn thiện. Các nhà khoa học Hợp Phì
thậm chí còn tuyên bố đã chế tạo được máy tính lượng tử nhanh hơn 1014 lần so với
đột phá Sycamore của Google.
Nhà nghiên cứu chính của Micius và một trong những nhà khoa học lượng tử hàng
đầu thế giới, Pan Jianwei, đã làm rõ điều này có nghĩa là gì. “Tôi nghĩ chúng ta
đã bắt đầu một cuộc đua vào không gian lượng tử trên toàn thế giới,” ông nói.
“Với khoa học thông tin hiện đại, Trung Quốc vừa là người học vừa là người đi
sau. Giờ đây, với công nghệ lượng tử, nếu cố gắng hết sức, chúng tôi có thể trở
thành một trong những người chơi chính.”
Việc phương Tây liên tục bác bỏ trong nhiều thập kỷ về khả năng “không sáng
tạo” của Trung Quốc là sai lầm nghiêm trọng. Chúng tôi đã nói họ
chỉ giỏi bắt chước, quá hạn chế và thiếu tự do, doanh nghiệp nhà nước thật khủng
khiếp. Nhìn lại, hầu hết những đánh giá này đều sai rõ ràng, và dù chúng có giá
trị đến đâu, chúng cũng không ngăn được Trung Quốc nổi lên như một gã khổng lồ
thời hiện đại về khoa học và kỹ thuật—đặc biệt là vì việc chuyển giao quyền sở
hữu trí tuệ hợp pháp như mua công ty và dịch tạp chí đã được ủng hộ. với hành vi
trộm cắp trắng trợn, cưỡng bức chuyển giao, kỹ thuật đảo ngược và các hoạt động
gián điệp.
Trong khi đó, Mỹ đang mất đi vị trí dẫn đầu chiến lược. Trong nhiều năm, rõ
ràng là Mỹ giữ vị trí thống trị trong mọi lĩnh vực, từ thiết kế chất bán dẫn đến
dược phẩm, phát minh ra Internet cho đến công nghệ quân sự phức tạp nhất thế
giới. Nó không biến mất, nhưng nó đang đi. Một báo cáo của Graham Allison thuộc
Harvard lập luận rằng tình hình nghiêm trọng hơn nhiều so với mức mà hầu hết
phương Tây đánh giá. Trung Quốc đã đi trước Hoa Kỳ về năng lượng xanh, 5G và AI
và đang trên quỹ đạo vượt qua Hoa Kỳ về lượng tử và công nghệ sinh học trong vài
năm tới. Giám đốc phần mềm đầu tiên của Lầu Năm Góc đã từ chức để phản đối vào
năm 2021 vì quá thất vọng trước tình hình này. “Chúng ta không có cơ hội chiến
đấu cạnh tranh với Trung Quốc trong 15 đến 20 năm nữa. Hiện tại, mọi việc đã
hoàn tất; Theo quan điểm của tôi thì mọi chuyện đã kết thúc rồi,” ông nói với
Financial Times.
Ngay sau khi trở thành chủ tịch nước vào năm 2013, Tập Cận Bình đã có bài
phát biểu để lại những hậu quả lâu dài đối với Trung Quốc – và đối với phần còn
lại của thế giới. Ông tuyên bố: “Công nghệ tiên tiến là vũ khí sắc bén của nhà
nước hiện đại”. “Công nghệ của chúng tôi nhìn chung vẫn tụt hậu so với các nước
phát triển và chúng tôi phải áp dụng chiến lược bất đối xứng để bắt kịp và vượt
qua”.
Đó là một phân tích mạnh mẽ và, như chúng ta đã thấy, là một tuyên bố về các
ưu tiên chính sách của Trung Quốc. Nhưng không giống như những gì ông Tập nói,
bất kỳ nhà lãnh đạo thế giới nào cũng có thể đưa ra quan điểm tương tự một cách
đáng tin cậy. Bất kỳ tổng thống Mỹ hay Brazil, thủ tướng Đức hay thủ tướng Ấn Độ
nào cũng sẽ tán thành luận điểm trọng tâm - rằng công nghệ là một “vũ khí sắc
bén” cho phép các quốc gia “giữ quyền thống trị”. Tập đang nêu ra một sự thật
trần trụi, câu thần chú tự tuyên bố của không chỉ Trung Quốc mà hầu như mọi quốc gia, từ
các nhà lãnh đạo siêu cường ở biên giới cho đến những người bị cô lập: những người
xây dựng, sở hữu và triển khai các vấn đề công nghệ.
CUỘC ĐUA VÒNG TAY
Công nghệ đã trở thành tài sản chiến lược quan trọng nhất của thế giới, không phải là
công cụ của chính sách đối ngoại mà là động lực của nó. Các cuộc tranh giành quyền
lực lớn trong thế kỷ 21 được xác định dựa trên ưu thế công nghệ - một cuộc chạy đua
để kiểm soát làn sóng sắp tới. Các công ty công nghệ và trường đại học không còn được
coi là trung lập mà là những nhà vô địch lớn của quốc gia.
Ý chí chính trị có thể phá vỡ hoặc hủy bỏ các động lực khác được thảo luận trong
chương này. Về lý thuyết, một chính phủ có thể kiềm chế các khuyến khích nghiên cứu,
kiểm soát hoạt động kinh doanh tư nhân, hạn chế các sáng kiến mang tính bản ngã. Nhưng
nó không thể loại bỏ sự cạnh tranh gay gắt từ các đối thủ địa chính trị. Theo logic
của một cuộc chạy đua vũ trang, việc lựa chọn hạn chế sự phát triển công nghệ khi nhận
thấy đối thủ đang tiến về phía trước là chọn cách thua cuộc.
Trong một thời gian dài, tôi đã phản đối, chống lại việc coi tiến bộ công nghệ là
một cuộc chạy đua vũ trang quốc tế có tổng bằng không. Tại DeepMind, tôi luôn từ chối
đề cập đến chúng tôi như một Dự án Manhattan cho AI, không chỉ vì sự so sánh hạt nhân
mà bởi vì ngay cả việc định khung cũng có thể bắt đầu một loạt các Dự án Manhattan
khác, thúc đẩy một cuộc chạy đua vũ trang năng động khi có sự phối hợp chặt chẽ trên
toàn cầu, điểm dừng và sự chậm lại là cần thiết. Nhưng thực tế là logic của các quốc
gia đôi khi rất đơn giản nhưng lại hoàn toàn không thể tránh khỏi.
Trong bối cảnh an ninh quốc gia của một quốc gia, việc chỉ thả nổi một ý tưởng cũng
trở nên nguy hiểm. Một khi lời nói đã thốt ra, tiếng súng khai cuộc sẽ nổ ra, bản thân
lời hùng biện sẽ tạo ra một phản ứng quyết liệt trên toàn quốc. Và sau đó nó xoắn ốc.
Vô số bạn bè và đồng nghiệp ở Washington và Brussels, trong chính phủ, các tổ
chức tư vấn và giới học thuật đều sẽ chạy theo

cùng một dòng gây phẫn nộ: “Ngay cả khi chúng ta không thực sự đang chạy đua vũ trang,
chúng ta phải cho rằng 'họ' nghĩ rằng chúng ta đang như vậy, và do đó, chúng ta phải
chạy đua để đạt được lợi thế chiến lược mang tính quyết định vì làn sóng công nghệ mới
này có thể tái cân bằng hoàn toàn sức mạnh toàn cầu." Thái độ này trở thành một lời
tiên tri tự ứng nghiệm.
Chẳng ích gì khi giả vờ. Cạnh tranh quyền lực lớn với Trung Quốc là một trong số ít
lĩnh vực được hưởng thỏa thuận lưỡng đảng ở Washington. Cuộc tranh luận bây giờ không
phải là liệu chúng ta có đang trong cuộc chạy đua vũ trang về công nghệ và AI hay không;
đó là nơi nó sẽ dẫn tới.
Cuộc chạy đua vũ trang thường được thể hiện dưới dạng độc quyền hai bên Trung-Mỹ.
Đây là cận thị. Mặc dù sự thật là những quốc gia này là những quốc gia tiên tiến nhất
và có nguồn lực dồi dào, nhưng nhiều quốc gia khác cũng là những quốc gia tham gia quan
trọng. Kỷ nguyên mới của các cuộc chạy đua vũ trang báo trước sự trỗi dậy của chủ nghĩa
dân tộc-công nghệ lan rộng, trong đó nhiều quốc gia sẽ bị mắc kẹt trong một cuộc cạnh
tranh ngày càng leo thang để giành được lợi thế địa chính trị mang tính quyết định.
Hầu hết mọi quốc gia hiện nay đều có chiến lược AI chi tiết. Vladimir Putin tin
rằng người dẫn đầu về AI “sẽ trở thành người thống trị thế giới”.
Tổng thống Pháp Emmanuel Macron tuyên bố rằng “chúng tôi sẽ đấu tranh để xây dựng một
siêu thị châu Âu”. Quan điểm rộng hơn của ông là Châu Âu đã thất bại trong việc xây
dựng những gã khổng lồ công nghệ như Hoa Kỳ và Trung Quốc, tạo ra ít đột phá hơn và
thiếu cả năng lực sở hữu trí tuệ và sản xuất trong những phần quan trọng của hệ sinh
thái công nghệ. An ninh, giàu có, uy tín – tất cả đều phụ thuộc vào châu Âu, theo quan
điểm của ông và của nhiều người khác, khi trở thành cường quốc thứ ba.
Các quốc gia có thế mạnh khác nhau, từ khoa học sinh học và AI (như Anh) đến robot
(Đức, Nhật Bản, Hàn Quốc) đến an ninh mạng (Israel). Mỗi nước đều có các chương trình
R&D lớn trên khắp các phần của làn sóng sắp tới, với các hệ sinh thái khởi nghiệp dân
sự đang phát triển ngày càng được hỗ trợ bởi lực lượng cứng được nhận thức là cần thiết
về mặt quân sự.
Ấn Độ rõ ràng là trụ cột thứ tư trong trật tự toàn cầu mới của những người khổng
lồ, cùng với Hoa Kỳ, Trung Quốc và EU. Dân số trẻ và có tinh thần kinh doanh, đô thị
hóa ngày càng tăng và hơn bao giờ hết

kết nối và hiểu biết về công nghệ. Đến năm 2030, nền kinh tế nước này sẽ vượt
các nước như Anh, Đức, Nhật Bản để đứng thứ ba thế giới; đến năm 2050, nó sẽ
trị giá 30 nghìn tỷ USD.
Chính phủ nước này quyết tâm biến công nghệ Ấn Độ thành hiện thực.
Thông qua chương trình Atmanirbhar Bharat (Ấn Độ tự lực), chính phủ Ấn Độ
đang nỗ lực đảm bảo quốc gia đông dân nhất thế giới giành được quyền sở hữu
các hệ thống công nghệ cốt lõi cạnh tranh với Hoa Kỳ và Trung Quốc. Theo đó,
Ấn Độ đã thiết lập quan hệ đối tác, chẳng hạn như với Nhật Bản về AI và robot,
cũng như với Israel về máy bay không người lái và máy bay không người lái.
Chuẩn bị cho làn sóng Ấn Độ.
trong Thế chiến thứ hai, Dự án Manhattan tiêu tốn 0,4% GDP của Mỹ được coi là
cuộc chạy đua với thời gian để có được quả bom trước quân Đức. Nhưng Đức Quốc
xã ban đầu đã loại trừ việc theo đuổi vũ khí hạt nhân vì cho rằng chúng quá
đắt đỏ và mang tính đầu cơ. Liên Xô bị tụt lại phía sau rất xa và cuối cùng
phải dựa vào những thông tin rò rỉ rộng rãi từ Hoa Kỳ. Mỹ đã tiến hành một
chạy đua vũ trang chống lại những bóng ma, đưa vũ khí hạt nhân vào thế giới
sớm hơn nhiều so với những hoàn cảnh khác.
Điều tương tự đã xảy ra vào cuối những năm 1950, khi sau cuộc thử nghiệm
ICBM của Liên Xô và Sputnik, những người ra quyết định của Lầu Năm Góc đã bị
thuyết phục về “khoảng cách tên lửa” đáng báo động với người Nga. Sau đó nổi
lên rằng Hoa Kỳ có lợi thế 10 ăn 1 vào thời điểm báo cáo quan trọng được đưa
ra. Khrushchev đang theo đuổi một chiến lược đã được thử nghiệm của Liên Xô:
lừa gạt. Hiểu sai ý kiến của phía bên kia có nghĩa là vũ khí hạt nhân và ICBM
đều đã được phát triển trong nhiều thập kỷ.
Phải chăng động thái sai lầm tương tự này đang diễn ra trong các cuộc
chạy đua vũ trang công nghệ hiện nay? Trên thực tế, không. Đầu tiên, nguy cơ
lây lan của làn sóng sắp tới là rất nghiêm trọng. Bởi vì những công nghệ này
ngày càng rẻ hơn và dễ sử dụng hơn ngay cả khi chúng ngày càng mạnh hơn nên
nhiều quốc gia có thể tham gia ở biên giới hơn. Các mô hình ngôn ngữ lớn vẫn còn
được coi là tiên tiến, nhưng chúng không có phép thuật vĩ đại hay bí mật quốc
gia nào được che giấu. Khả năng truy cập vào tính toán có thể là trở ngại lớn
nhất, nhưng có rất nhiều dịch vụ hiện có để biến điều đó thành hiện thực. Điều
tương tự cũng xảy ra với CRISPR hoặc tổng hợp DNA.
Chúng ta đã có thể thấy những thành tựu như cuộc đổ bộ lên mặt trăng của
Trung Quốc hay hệ thống nhận dạng sinh trắc học mạnh mẽ hàng tỷ USD của Ấn Độ,
Aadhaar, diễn ra trong thời gian thực. Không có gì ngạc nhiên khi Trung Quốc có
LLM khổng lồ, Đài Loan dẫn đầu về chất bán dẫn, Hàn Quốc có chuyên môn đẳng cấp
thế giới về robot và chính phủ ở khắp mọi nơi đang công bố và thực hiện các chiến
lược công nghệ chi tiết. Điều này đang diễn ra một cách công khai, được chia sẻ
trong các bằng sáng chế và tại các hội nghị học thuật, được báo cáo trên Wired
và Financial Times, phát sóng trực tiếp trên Bloomberg.
Tuyên bố chạy đua vũ trang không còn là một hành động gợi cảm, một lời tiên
tri tự ứng nghiệm. Lời tiên tri đã được ứng nghiệm. Nó ở đây, nó đang diễn ra.
Đó là một điểm hiển nhiên nhưng không thường được nhắc đến: không có cơ quan
trung ương nào kiểm soát những công nghệ nào được phát triển, ai thực hiện và vì
mục đích gì; công nghệ là một dàn nhạc không có nhạc trưởng. Tuy nhiên, thực tế
đơn lẻ này cuối cùng có thể trở thành sự kiện quan trọng nhất của thế kỷ XXI.
Và nếu cụm từ “chạy đua vũ trang” gây lo lắng thì đó là lý do chính đáng.
Khó có thể có một nền tảng bấp bênh hơn cho một tập hợp các công nghệ đang phát
triển hơn là nhận thức (và thực tế) về một cuộc cạnh tranh có tổng bằng 0 được
xây dựng trên nỗi sợ hãi. Tuy nhiên, có những yếu tố thúc đẩy công nghệ tích cực
hơn khác cần xem xét.
KIẾN THỨC CHỈ MUỐN ĐƯỢC TỰ DO
Sự tò mò thô sơ, hành trình tìm kiếm sự thật, tầm quan trọng của sự cởi mở, đánh
giá ngang hàng dựa trên bằng chứng—đây là những giá trị cốt lõi của nghiên cứu
khoa học và công nghệ. Kể từ cuộc Cách mạng Khoa học và các cuộc cách mạng công
nghiệp tương đương vào thế kỷ 18 và 19,

những khám phá khoa học không được cất giữ như những viên ngọc bí mật mà được chia
sẻ một cách công khai trên các tạp chí, sách, salon và các bài giảng công khai. Hệ
thống bằng sáng chế đã tạo ra một cơ chế chia sẻ kiến thức đồng thời khuyến khích
việc chấp nhận rủi ro. Khả năng tiếp cận thông tin rộng rãi đã trở thành động cơ
của nền văn minh của chúng ta.
Tính mở là hệ tư tưởng cốt lõi của khoa học và công nghệ. Những gì được biết
phải được chia sẻ; những gì được phát hiện phải được công bố.
Khoa học và công nghệ tồn tại và thở nhờ tranh luận tự do và chia sẻ thông tin một
cách cởi mở, đến mức độ cởi mở đó đã trở thành một động lực mạnh mẽ (và mang lại
lợi ích đáng kinh ngạc).
Chúng ta đang sống trong thời đại mà Audrey Kurth Cronin gọi là “đổi mới công
nghệ mở”. Một hệ thống toàn cầu về phát triển kiến thức và công nghệ hiện đang mở
rộng và rộng khắp đến mức gần như không thể điều khiển, quản lý hoặc đóng cửa nếu
cần. Kết quả là khả năng hiểu, sáng tạo, xây dựng và điều chỉnh công nghệ được
phân bổ cao. Công việc ít người biết đến do một sinh viên tốt nghiệp ngành khoa
học máy tính thực hiện trong một năm có thể nằm trong tay hàng trăm triệu người
dùng vào năm tới. Điều đó làm cho việc dự đoán hoặc kiểm soát trở nên khó khăn.
Chắc chắn, các công ty công nghệ muốn giữ bí mật của mình, nhưng họ cũng có xu
hướng tuân theo các triết lý mở đặc trưng cho phát triển phần mềm và học thuật.
Kết quả là những đổi mới lan tỏa nhanh hơn, xa hơn và mang tính đột phá hơn.
Yêu cầu cởi mở đã bão hòa văn hóa nghiên cứu. Học viện được xây dựng dựa trên
sự bình duyệt; bất kỳ bài báo nào không được các đồng nghiệp đáng tin cậy xem xét
kỹ lưỡng đều không đáp ứng tiêu chuẩn vàng. Các nhà tài trợ không thích hỗ trợ
công việc bị khóa chặt. Cả tổ chức và nhà nghiên cứu đều chú ý cẩn thận đến hồ sơ
xuất bản của họ và tần suất các bài báo của họ được trích dẫn. Nhiều trích dẫn hơn
có nghĩa là uy tín, độ tin cậy và kinh phí nghiên cứu cao hơn. Các nhà nghiên cứu
cấp dưới đặc biệt có khả năng được đánh giá—và được thuê—trên hồ sơ xuất bản của
họ, có thể xem công khai trên các nền tảng như Google Scholar. Hơn nữa, ngày nay
các bài báo được công bố trên Twitter và thường được viết trên mạng xã hội.
ảnh hưởng trong tâm trí. Chúng được thiết kế bắt mắt và thu hút sự chú ý.
Các học giả nhiệt tình tranh luận về quyền truy cập mở vào nghiên cứu của họ.
Trong công nghệ, các chuẩn mực mạnh mẽ xung quanh việc chia sẻ và đóng góp hỗ trợ
không gian phát triển mạnh mẽ của phần mềm nguồn mở. Một số công ty lớn nhất thế
giới—Alphabet, Meta, Microsoft—thường xuyên đóng góp số lượng lớn IP miễn phí. Trong
các lĩnh vực như AI và sinh học tổng hợp, nơi ranh giới giữa nghiên cứu khoa học và
phát triển công nghệ đặc biệt mờ nhạt, tất cả những điều này khiến nền văn hóa mặc
định trở nên cởi mở.
Tại DeepMind, chúng tôi đã sớm biết rằng cơ hội xuất bản là yếu tố then chốt
khi các nhà nghiên cứu hàng đầu quyết định nơi làm việc. Họ muốn sự cởi mở và sự
công nhận ngang hàng mà họ đã quen ở giới học thuật. Chẳng bao lâu nó đã trở thành
tiêu chuẩn trong các phòng thí nghiệm AI hàng đầu: mặc dù không phải mọi thứ sẽ
được công khai ngay lập tức nhưng sự cởi mở được coi là lợi thế chiến lược trong
việc thu hút các nhà khoa học giỏi nhất.
Trong khi đó, hồ sơ công bố là một phần quan trọng để được tuyển dụng tại các phòng
thí nghiệm công nghệ hàng đầu, trong khi sự cạnh tranh rất khốc liệt, một cuộc đua
xem ai sẽ công khai trước.
Nói chung, ở một mức độ có lẽ bị đánh giá thấp, việc xuất bản và chia sẻ không
chỉ là quá trình xuyên tạc trong khoa học. Họ cũng vì uy tín, vì đồng nghiệp, vì
theo đuổi sứ mệnh, vì công việc, vì sở thích. Tất cả đều thúc đẩy và đẩy nhanh quá
trình phát triển công nghệ.
Một lượng lớn dữ liệu và mã AI được công khai. Ví dụ: GitHub có 190 triệu kho
mã, nhiều kho trong số đó là công khai. Máy chủ in sẵn của học thuật cho phép các
nhà nghiên cứu nhanh chóng tải lên tác phẩm mà không cần bất kỳ cơ chế đánh giá
hoặc lọc nào. Dịch vụ ban đầu như vậy, arXiv, lưu trữ hơn hai triệu bài báo. Hàng
chục dịch vụ in sẵn chuyên biệt hơn, như bioRxiv trong khoa học đời sống, thúc đẩy
quá trình này. Kho tài liệu khoa học và kỹ thuật khổng lồ của thế giới có thể được
truy cập trên web mở hoặc có sẵn thông qua các thông tin đăng nhập dễ dàng của tổ
chức. Khe cắm này vào một thế giới nơi

tài trợ và hợp tác xuyên biên giới là tiêu chuẩn; nơi mà các dự án
thường có hàng trăm nhà nghiên cứu tự do chia sẻ thông tin; nơi có
hàng nghìn bài hướng dẫn và khóa học về các kỹ thuật tiên tiến nhất
hiện có sẵn trực tuyến.

Tất cả những điều này diễn ra trong bối cảnh bối cảnh nghiên cứu
tăng tốc. Chi tiêu R&D trên toàn thế giới ở mức hơn 700 tỷ USD hàng
năm, đạt mức cao kỷ lục. Chỉ riêng ngân sách R&D của Amazon là 78 tỷ
USD, lớn thứ chín trên thế giới nếu là một quốc gia. Alphabet, Apple,
Huawei, Meta và Microsoft đều chi hơn 20 tỷ USD mỗi năm cho R&D. Tất
cả những công ty này, những công ty đầu tư sâu sắc nhất vào làn sóng
sắp tới, những công ty có ngân sách dồi dào nhất, đều có thành tích
xuất bản công khai nghiên cứu của mình.
Tương lai đặc biệt là nguồn mở, được xuất bản trên arXiv, được ghi
lại trên GitHub. Nó đang được xây dựng để trích dẫn, vinh danh nghiên
cứu và lời hứa về nhiệm kỳ. Cả yêu cầu bắt buộc về tính mở và khối
lượng lớn tài liệu nghiên cứu sẵn có đều có nghĩa đây là một tập hợp
các động lực và nền tảng có nguồn gốc sâu xa và được phân phối rộng
rãi cho nghiên cứu trong tương lai mà không ai có thể quản lý hoàn toàn.
dự đoán bất cứ điều gì ở biên giới là khó khăn. Nếu bạn muốn định hướng
quá trình nghiên cứu, hướng nó tới hoặc tránh xa những kết quả nhất
định, ngăn chặn nó trước thời hạn, bạn sẽ phải đối mặt với nhiều thách thức.
Không chỉ có câu hỏi về cách bạn có thể phối hợp giữa các nhóm cạnh
tranh, mà còn có một thực tế là ở tuyến đầu cũng không thể dự đoán
được những đột phá có thể đến từ đâu.
Ví dụ, công nghệ chỉnh sửa gen CRISPR có nguồn gốc từ công trình
của nhà nghiên cứu người Tây Ban Nha Francisco Mojica, người muốn tìm
hiểu làm thế nào một số sinh vật đơn bào phát triển mạnh trong nước
lợ. Mojica sớm tình cờ phát hiện ra các chuỗi DNA lặp lại vốn là một
phần quan trọng của CRISPR. Những phần lặp lại được nhóm lại này có
vẻ quan trọng. Anh ấy đã nghĩ ra cái tên CRISPR.
Công việc sau đó của hai nhà nghiên cứu tại một công ty sữa chua Đan Mạch
đã xem xét việc bảo vệ các vi khuẩn quan trọng cho giống khởi đầu trong
quá trình lên men của sữa chua. Nó giúp cho thấy các cơ chế cốt lõi có thể
hoạt động như thế nào. Những con đường khó có thể xảy ra này chính là nền
tảng cho câu chuyện công nghệ sinh học lớn nhất thế kỷ XXI.
Tương tự như vậy, các cánh đồng có thể bị đình trệ trong nhiều thập kỷ
nhưng sau đó sẽ thay đổi đáng kể chỉ sau vài tháng. Mạng lưới thần kinh đã
trải qua nhiều thập kỷ ở vùng hoang dã, bị những người nổi tiếng như Marvin
Minsky vứt bỏ. Chỉ có một số nhà nghiên cứu biệt lập như Geoffrey Hinton
và Yann LeCun giúp họ vượt qua thời kỳ mà từ “thần kinh” gây tranh cãi đến
mức các nhà nghiên cứu đã cố tình loại bỏ nó khỏi bài báo của họ. Điều đó
dường như là không thể vào những năm 1990, nhưng mạng lưới thần kinh đã
thống trị AI. Tuy nhiên, cũng chính LeCun đã nói rằng AlphaGo là không thể
chỉ vài ngày trước khi nó đạt được bước đột phá lớn đầu tiên. Điều đó không
làm mất uy tín của anh ta; nó chỉ cho thấy rằng không ai có thể chắc chắn
về bất cứ điều gì ở giới hạn nghiên cứu.
Ngay cả trong lĩnh vực phần cứng, con đường hướng tới AI cũng không thể đoán trước được.
GPU—đơn vị xử lý đồ họa—là một phần nền tảng của AI hiện đại. Nhưng chúng
lần đầu tiên được phát triển để mang lại đồ họa chân thực hơn bao giờ hết
trong các trò chơi trên máy tính. Trong một minh họa về bản chất đa dụng
của công nghệ, việc xử lý song song nhanh chóng cho đồ họa hào nhoáng hóa
ra lại hoàn hảo cho việc đào tạo mạng lưới thần kinh sâu. Cuối cùng, thật
may mắn khi nhu cầu chơi game chân thực đã đồng nghĩa với việc các công ty
như NVIDIA đã đầu tư rất nhiều vào việc tạo ra phần cứng tốt hơn và điều
này sau đó đã thích ứng rất tốt với học máy.
(NVIDIA không phàn nàn; giá cổ phiếu của nó đã tăng 1.000% trong 5 năm sau
AlexNet.)
Nếu trước đây bạn đang muốn theo dõi và chỉ đạo nghiên cứu AI, bạn có
thể đã nhầm lẫn khi chặn hoặc thúc đẩy công việc mà cuối cùng tỏ ra không
phù hợp, hoàn toàn bỏ lỡ những đột phá quan trọng nhất đang âm thầm diễn
ra bên lề. Nghiên cứu khoa học và công nghệ vốn có tính chất khó lường,
đặc biệt cởi mở,
và phát triển nhanh chóng. Do đó, việc quản lý hoặc kiểm soát nó là vô cùng
khó khăn.
Thế giới ngày nay được tối ưu hóa cho sự tò mò, chia sẻ và nghiên cứu
với tốc độ chưa từng thấy trước đây. Nghiên cứu hiện đại hoạt động chống
lại sự ngăn chặn. Sự cần thiết và mong muốn kiếm lợi nhuận cũng vậy.
100 nghìn tỷ USD

CƠ HỘI
Năm 1830, tuyến đường sắt chở khách đầu tiên được mở giữa Liverpool và
Manchester. Việc xây dựng công trình kỳ diệu này đòi hỏi phải có đạo
luật của Quốc hội. Tuyến đường này cần những cây cầu, những lối cắt
ngang, những đoạn đường cao trên mặt đất lầy lội và giải quyết những
tranh chấp tài sản dường như vô tận: tất cả những thách thức to lớn.
Lễ khai trương tuyến đường sắt có sự tham dự của các chức sắc trong đó
có thủ tướng và nghị sĩ của Liverpool, William Huskisson. Trong lễ kỷ
niệm, đám đông đã đứng trên đường ray để chào đón điều kỳ diệu mới khi
nó đến gần. Cỗ máy tấn công này xa lạ đến mức mọi người không đánh giá
được tốc độ của đoàn tàu đang lao tới, và bản thân Huskisson cũng
thiệt mạng dưới bánh xe đầu máy. Đối với những khán giả kinh hoàng,
Rocket chạy bằng hơi nước của George Stephenson thật quái dị, một
người ngoài hành tinh, ợ hơi, mờ mịt đáng sợ về sự hiện đại và máy móc.
Tuy nhiên, đó cũng là một cảm giác, nhanh hơn bất cứ điều gì sau
đó được trải qua. Tăng trưởng nhanh chóng. Dự kiến sẽ có hai trăm năm
mươi hành khách mỗi ngày; 2000 người mỗi ngày đã sử dụng nó chỉ sau
một tháng. Hàng trăm tấn bông có thể được vận chuyển từ bến cảng
Liverpool đến các nhà máy ở Manchester với sự ồn ào tối thiểu trong
thời gian kỷ lục. Năm năm sau, nó đã mang lại cổ tức 10%, báo trước
một cuộc bùng nổ nhỏ trong lĩnh vực xây dựng đường sắt vào những năm
1830. Chính phủ đã nhìn thấy một cơ hội để làm được nhiều hơn thế.
Năm 1844, một nghị sĩ trẻ tên là William Gladstone đã đưa ra Đạo luật
Quản lý Đường sắt để tăng cường đầu tư. Các công ty đã gửi hàng trăm
đơn xin xây dựng tuyến đường sắt mới chỉ trong vài tháng vào năm 1845. Trong khi
phần còn lại của thị trường chứng khoán đi ngang thì các công ty đường sắt lại bùng nổ.
Các nhà đầu tư đổ xô vào. Vào thời kỳ đỉnh cao, cổ phiếu đường sắt chiếm hơn
2/3 tổng giá trị thị trường chứng khoán.
Trong vòng một năm, vụ tai nạn đã bắt đầu. Thị trường cuối cùng đã chạm
đáy vào năm 1850, thấp hơn 66% so với thời kỳ đỉnh cao. Lợi nhuận dễ dàng,
không phải lần đầu cũng như lần cuối, đã khiến con người trở nên tham lam và ngu ngốc.
Hàng ngàn người mất tất cả. Tuy nhiên, một kỷ nguyên mới đã đến với sự bùng
nổ. Với đầu máy xe lửa, một thế giới cũ kỹ và đồng quê đã bị xé nát thành từng
mảnh trong một loạt cầu cạn và đường hầm, các trạm cắt và nhà ga lớn, khói
than và còi. Từ một vài tuyến rải rác, cơn sốt đầu tư đã tạo nên hình dáng của
một mạng lưới quốc gia thống nhất. Nó thu nhỏ đất nước. Vào những năm 1830,
hành trình giữa London và Edinburgh mất nhiều ngày trên một chiếc xe ngựa
không thoải mái.
Đến những năm 1850, một chuyến tàu chỉ mất chưa đầy 12 giờ. Kết nối với phần còn
lại của đất nước đồng nghĩa với việc các thị trấn, thành phố và khu vực sẽ bùng nổ.
Du lịch, thương mại và đời sống gia đình đã được chuyển đổi. Trong số nhiều
tác động khác, nó tạo ra nhu cầu về giờ chuẩn quốc gia để hiểu rõ thời gian
biểu. Và tất cả đã được thực hiện nhờ lòng khao khát lợi nhuận không ngừng nghỉ.
sự bùng nổ đường sắt những năm 1840 được cho là “bong bóng lớn nhất trong lịch
sử”. Nhưng trong lịch sử công nghệ, điều đó là chuẩn mực hơn là ngoại lệ.
Không có gì là không thể tránh khỏi về sự xuất hiện của ngành đường sắt, nhưng
có điều gì đó không thể tránh khỏi là cơ hội kiếm tiền. Carlota Perez nhận
thấy một “giai đoạn điên cuồng” tương đương là một phần của mọi đợt triển khai
công nghệ quan trọng trong ít nhất hai trăm năm qua, từ cáp điện thoại ban đầu
đến Internet băng thông cao hiện đại. Sự bùng nổ không bao giờ kéo dài, nhưng
động lực đầu cơ thô sơ tạo ra sự thay đổi lâu dài, một nền tảng công nghệ mới.
Sự thật là sự tò mò của các nhà nghiên cứu hàn lâm hoặc ý chí của các chính phủ có
động lực là không đủ để đưa những đột phá mới đến tay hàng tỷ người tiêu dùng. Khoa
học phải được chuyển hóa thành những sản phẩm hữu ích và đáng mơ ước để nó thực sự
được phổ biến rộng rãi.
Nói một cách đơn giản: hầu hết công nghệ được tạo ra để kiếm tiền.
Nếu có thì đây có lẽ là động lực bền bỉ, cố thủ và phân tán nhất trong tất cả. Lợi
nhuận thúc đẩy doanh nhân Trung Quốc phát triển khuôn đúc cho một chiếc điện thoại
được thiết kế lại hoàn toàn; nó thúc đẩy người nông dân Hà Lan tìm ra công nghệ robot
và nhà kính mới để trồng cà chua quanh năm trong điều kiện khí hậu mát mẻ của Biển
Bắc; nó dẫn dắt các nhà đầu tư khéo léo trên Đường Sand Hill của Palo Alto đầu tư hàng
triệu đô la vào các doanh nhân trẻ chưa được thử thách. Mặc dù động lực của từng cá
nhân đóng góp có thể khác nhau, nhưng Google đang xây dựng AI và Amazon đang chế tạo
robot, bởi vì với tư cách là các công ty đại chúng có các cổ đông hài lòng, họ coi
chúng là cách để kiếm lợi nhuận.
Và điều này, tiềm năng lợi nhuận, được xây dựng trên một thứ thậm chí còn lâu dài
và mạnh mẽ hơn: nhu cầu thô. Mọi người đều muốn và cần thành quả của công nghệ. Mọi
người cần thực phẩm, điện lạnh, hoặc viễn thông để sống cuộc sống của họ; họ có thể
muốn các bộ điều hòa không khí, hoặc một loại thiết kế giày mới đòi hỏi một số kỹ thuật
sản xuất mới phức tạp, hoặc một loại phương pháp tạo màu thực phẩm mới mang tính cách
mạng nào đó cho bánh nướng nhỏ, hoặc bất kỳ mục đích hàng ngày nào mà công nghệ được
đưa vào sử dụng. Dù bằng cách nào, công nghệ sẽ giúp cung cấp và những người tạo ra nó
sẽ nhận phần của họ. Sự đa dạng về mong muốn và nhu cầu của con người cũng như vô số
cơ hội kiếm lợi từ chúng là một phần không thể thiếu trong câu chuyện công nghệ và sẽ
vẫn như vậy trong tương lai.
Đây không phải là điều xấu. Quay trở lại chỉ vài trăm năm, tăng trưởng kinh tế gần
như không tồn tại. Mức sống bị trì trệ trong nhiều thế kỷ ở mức tồi tệ hơn ngày nay
đến mức không thể tưởng tượng được. Trong hai trăm năm qua, sản lượng kinh tế đã tăng
hơn ba trăm lần. GDP bình quân đầu người đã tăng ít nhất 13 lần trong cùng thời kỳ, và
ở những khu vực giàu có nhất trên thế giới, con số này đã tăng lên.
tăng gấp trăm lần. Vào đầu thế kỷ 19, hầu hết mọi người đều sống trong cảnh
nghèo đói cùng cực. Hiện nay, trên toàn cầu, tỷ lệ này ở mức khoảng 9%.
Những cải thiện theo cấp số nhân về điều kiện của con người, từng là điều
không thể, lại là chuyện thường ngày.
Về bản chất, đây là câu chuyện áp dụng khoa học công nghệ một cách
có hệ thống vì lợi nhuận. Điều này lại dẫn đến những bước nhảy vọt về
sản lượng và mức sống. Vào thế kỷ 19, những phát minh như máy tuốt lúa
của Cyrus McCormick đã giúp sản lượng lúa mì tăng 500% mỗi giờ. Chiếc
máy may của Isaac Singer có nghĩa là việc may một chiếc áo sơ mi từ
mất 14 giờ xuống chỉ còn một giờ. Ở các nền kinh tế phát triển, mọi
người làm việc ít hơn trước đây để nhận được nhiều phần thưởng hơn. Ví
dụ, ở Đức, số giờ làm việc hàng năm đã giảm gần 60% kể từ năm 1870.
Công nghệ bước vào vòng tròn tích cực tạo ra của cải có thể được
tái đầu tư vào phát triển công nghệ hơn nữa, tất cả đều nâng cao mức
sống. Nhưng không có mục tiêu dài hạn nào thực sự là mục tiêu chính
của bất kỳ cá nhân nào. Ở chương 1, tôi đã lập luận rằng hầu hết mọi
thứ xung quanh bạn đều là sản phẩm của trí tuệ con người. Đây là một
sự điều chỉnh nhỏ: phần lớn những gì chúng ta thấy xung quanh mình đều
được hỗ trợ bởi trí thông minh của con người nhằm trực tiếp theo đuổi
lợi ích tiền tệ.
Động cơ này đã tạo ra một nền kinh tế thế giới trị giá 85 nghìn tỷ USD - và
còn hơn thế nữa. Từ những người tiên phong trong Cách mạng Công nghiệp cho đến các
doanh nhân ở Thung lũng Silicon ngày nay, công nghệ có sức hấp dẫn mạnh mẽ dưới
dạng những phần thưởng tài chính nghiêm túc. Làn sóng sắp tới đại diện cho giải
thưởng kinh tế lớn nhất trong lịch sử. Nó là một nơi dồi dào của người tiêu dùng
và là trung tâm lợi nhuận tiềm năng không gì sánh bằng. Bất cứ ai muốn ngăn chặn
nó đều phải giải thích làm thế nào có thể thuyết phục được một hệ thống tư bản chủ
nghĩa phân tán, toàn cầu, với quyền lực không bị kiểm soát để giảm bớt tốc độ tăng
tốc của nó, chứ chưa nói đến việc để nó trên bàn đàm phán.
—
Khi một công ty tự động hóa các yêu cầu bảo hiểm hoặc áp dụng một kỹ thuật
sản xuất mới, nó sẽ tiết kiệm hiệu quả hoặc cải tiến sản phẩm, tăng lợi
nhuận và thu hút khách hàng mới. Một khi sự đổi mới mang lại lợi thế cạnh
tranh như thế này thì mọi người đều phải áp dụng nó, bỏ qua nó, chuyển
trọng tâm hoặc mất thị phần và cuối cùng phá sản. Thái độ xung quanh động
lực này trong các doanh nghiệp công nghệ nói riêng rất đơn giản và tàn
nhẫn: xây dựng thế hệ công nghệ tiếp theo hoặc bị phá hủy.
Vì vậy, không có gì ngạc nhiên khi các tập đoàn đóng một vai trò lớn
như vậy trong làn sóng sắp tới. Công nghệ cho đến nay là danh mục lớn nhất
trong S&P 500, chiếm 26% chỉ số. Giữa họ, các tập đoàn công nghệ lớn có
lượng tiền mặt tương đương với GDP của một nền kinh tế như Đài Loan hay Ba
Lan. Chi tiêu vốn, giống như chi tiêu cho R&D, là rất lớn, vượt xa các
công ty dầu mỏ lớn, trước đây là những công ty chi tiêu nhiều nhất. Bất kỳ
ai theo dõi ngành công nghiệp này gần đây sẽ chứng kiến một cuộc chạy đua
thương mại ngày càng khốc liệt xung quanh AI, với các công ty như Google,
Microsoft và OpenAI cạnh tranh hàng tuần để ra mắt sản phẩm mới.
Hàng trăm tỷ đô la vốn đầu tư mạo hiểm và vốn cổ phần tư nhân được
triển khai vào vô số công ty khởi nghiệp. Chỉ riêng đầu tư vào công nghệ
AI đã đạt 100 tỷ USD mỗi năm. Những con số lớn này thực sự quan trọng. Số
lượng lớn chi tiêu vốn, chi tiêu R&D, vốn mạo hiểm và đầu tư cổ phần tư
nhân, chưa từng có khu vực nào khác hoặc bất kỳ chính phủ nào bên ngoài
Trung Quốc và Hoa Kỳ có thể so sánh được, là nhiên liệu thô cung cấp năng
lượng cho làn sóng sắp tới. Tất cả số tiền này đều đòi hỏi phải hoàn lại
và công nghệ mà nó tạo ra chính là phương tiện để có được số tiền đó.
Giống như cuộc Cách mạng Công nghiệp, những lợi ích kinh tế tiềm năng
là rất lớn. Ước tính rất khó để trực giác. PwC dự báo AI sẽ bổ sung thêm
15,7 nghìn tỷ USD cho nền kinh tế toàn cầu vào năm 2030. McKinsey dự báo
công nghệ sinh học sẽ tăng thêm 4 nghìn tỷ USD trong cùng kỳ. Việc tăng
cường lắp đặt robot trên thế giới cao hơn 30% so với dự báo cơ bản có thể
mang lại khoản cổ tức 5 nghìn tỷ USD, một số tiền lớn hơn toàn bộ số tiền của Đức.
đầu ra. Đặc biệt khi các nguồn tăng trưởng khác ngày càng khan hiếm thì
đây là những động lực mạnh mẽ. Với lợi nhuận cao như vậy, việc ngăn chặn
cơn sốt vàng có thể là một thách thức vô cùng lớn.
Những dự đoán này có hợp lý không? Những con số chắc chắn khiến
người ta phải chảy nước mắt. Việc thu thập những con số khổng lồ trong
tương lai gần rất dễ thực hiện trên giấy tờ. Nhưng trong khung thời gian
dài hơn một chút, chúng không hoàn toàn vô lý. Tổng thị trường có thể
định địa chỉ ở đây cuối cùng sẽ mở rộng, giống như Cách mạng công nghiệp
lần thứ nhất hoặc thứ hai, tới toàn bộ nền kinh tế thế giới. Ai đó vào
cuối thế kỷ 18 hẳn sẽ nghi ngờ ý tưởng GDP bình quân đầu người tăng gấp
trăm lần. Nó thậm chí có vẻ lố bịch nếu suy ngẫm. Tuy nhiên, nó đã xảy
ra. Với tất cả những dự báo đó và các lĩnh vực cơ bản được giải quyết
bởi làn sóng sắp tới, thậm chí mức tăng trưởng 10–15% cho nền kinh tế
thế giới trong thập kỷ tới cũng có thể là thận trọng. Về lâu dài, nó có
thể lớn hơn thế nhiều.
Hãy xem xét rằng nền kinh tế thế giới đã tăng trưởng gấp sáu lần vào
nửa sau của thế kỷ XX. Ngay cả khi tốc độ tăng trưởng chậm lại chỉ bằng
1/3 mức đó trong vòng 50 năm tới, nó vẫn sẽ tạo ra khoảng 100 nghìn tỷ
USD cho GDP bổ sung.
Hãy suy nghĩ về tác động của làn sóng hệ thống AI mới. Các mô hình
ngôn ngữ lớn cho phép bạn trò chuyện hữu ích với AI về bất kỳ chủ đề
nào bằng ngôn ngữ tự nhiên, trôi chảy. Trong vòng vài năm tới, bất kể
công việc của bạn là gì, bạn sẽ có thể tham khảo ý kiến của một chuyên
gia theo yêu cầu, hỏi họ về chiến dịch quảng cáo hoặc thiết kế sản phẩm
mới nhất của bạn, hỏi họ những chi tiết cụ thể của một tình huống khó
xử về mặt pháp lý, tách biệt các yếu tố hiệu quả nhất của quảng cáo
chiêu hàng, giải quyết một câu hỏi hậu cần hóc búa, lấy ý kiến thứ hai
về chẩn đoán, tiếp tục thăm dò và kiểm tra, nhận được câu trả lời chi
tiết hơn bao giờ hết dựa trên kiến thức tiên tiến nhất, được truyền tải
với sắc thái đặc biệt. Tất cả kiến thức, phương pháp hay nhất, tiền lệ
và sức mạnh tính toán của thế giới sẽ có sẵn, phù hợp với bạn, phù hợp
với nhu cầu và hoàn cảnh cụ thể của bạn một cách tức thời và dễ dàng.
Đó là một bước nhảy vọt về tiềm năng nhận thức ít nhất cũng lớn như sự ra đời của Int
Và đó là trước khi bạn hiểu được ý nghĩa của những thứ như ACI và Bài kiểm tra
Turing hiện đại.
Cuối cùng, ít có giá trị hơn trí thông minh. Trí thông minh là nguồn gốc và là
người điều hành, kiến trúc sư và người điều phối nền kinh tế thế giới. Chúng ta
càng mở rộng phạm vi và bản chất của trí thông minh được cung cấp thì khả năng
phát triển càng cao. Với AI tổng quát, các kịch bản kinh tế hợp lý cho thấy nó
không chỉ có thể thúc đẩy tăng trưởng mà còn tăng tốc vĩnh viễn về tốc độ tăng
trưởng. Nói một cách thẳng thắn về mặt kinh tế, AI về lâu dài có thể là công nghệ
có giá trị nhất, hơn thế nữa khi kết hợp với tiềm năng của sinh học tổng hợp,
robot và phần còn lại.
Những khoản đầu tư đó không thụ động; họ sẽ đóng một vai trò quan trọng trong
việc biến nó thành hiện thực, một lời tiên tri tự ứng nghiệm khác đã được ứng
nghiệm. Hàng nghìn tỷ đó đại diện cho giá trị gia tăng và cơ hội to lớn cho xã
hội, mang lại mức sống tốt hơn cho hàng tỷ người cũng như lợi nhuận khổng lồ cho
lợi ích cá nhân. Dù thế nào đi nữa, điều đó cũng tạo ra động lực cố hữu để tiếp
tục tìm kiếm và tung ra các công nghệ mới.
NHỮNG THÁCH THỨC TOÀN CẦU
Trong hầu hết lịch sử, việc nuôi sống bản thân và gia đình là thách thức chủ yếu
của cuộc sống con người. Nghề nông luôn là một công việc khó khăn, bấp bênh. Nhưng
đặc biệt là trước những cải tiến của thế kỷ 20, việc đó khó hơn rất nhiều. Bất kỳ
sự thay đổi nào về điều kiện thời tiết—quá lạnh, nóng, khô hoặc ẩm ướt—đều có thể
gây ra thảm họa. Hầu hết mọi thứ đều được thực hiện bằng tay, có thể nhờ sự trợ
giúp của một số con bò nếu bạn may mắn. Vào một số thời điểm trong năm có rất ít
việc phải làm; ở những nơi khác, có nhiều tuần lao động chân tay không ngừng nghỉ
và đau lưng.
Cây trồng có thể bị hủy hoại do dịch bệnh hoặc sâu bệnh, hư hỏng sau khi thu
hoạch hoặc bị quân xâm lược đánh cắp. Hầu hết nông dân sống bằng tay, thường làm
nông nô, từ bỏ phần lớn mùa màng ít ỏi của họ. Thậm chí ở
những nơi có năng suất cao nhất trên thế giới, sản lượng thấp và mong manh.
Cuộc sống thật khó khăn, sống bên bờ vực của thảm họa. Khi Thomas Malthus lập
luận vào năm 1798 rằng dân số tăng nhanh sẽ nhanh chóng làm cạn kiệt sức chứa
của nông nghiệp và dẫn tới sự sụp đổ, ông đã không sai; lợi suất tĩnh sẽ và
thường tuân theo quy luật này.
Điều anh chưa tính đến là quy mô của sự khéo léo của con người.
Giả sử điều kiện thời tiết thuận lợi và sử dụng các kỹ thuật mới nhất, vào thế
kỷ 13, mỗi ha lúa mì ở Anh cho năng suất khoảng nửa tấn. Nó vẫn ở đó trong nhiều
thế kỷ.
Sự xuất hiện dần dần của các kỹ thuật và công nghệ mới đã thay đổi tất cả: từ
luân canh cây trồng đến nhân giống chọn lọc, máy cày cơ giới hóa, phân bón tổng
hợp, thuốc trừ sâu, biến đổi gen và bây giờ là cả việc trồng và làm cỏ được tối
ưu hóa bằng AI. Trong thế kỷ 21, năng suất hiện nay đạt khoảng 8 tấn/ha. Cùng
một mảnh đất nhỏ, vô hại, cùng vị trí địa lý và đất đai đã được khai thác vào
thế kỷ 13, giờ đây có thể mang lại sản lượng gấp mười sáu lần. Năng suất ngô
trên mỗi ha ở Hoa Kỳ đã tăng gấp ba lần trong 50 năm qua. Lao động cần thiết để
sản xuất ra một kg ngũ cốc đã giảm 98% kể từ đầu thế kỷ 19.
Năm 1945, khoảng 50% dân số thế giới bị suy dinh dưỡng nghiêm trọng. Ngày
nay, mặc dù dân số đã lớn hơn gấp ba lần nhưng con số đó vẫn giảm xuống còn 10%.
Con số này vẫn đại diện cho hơn 600 triệu người, một con số vô lương tâm. Nhưng
với tỷ lệ năm 1945 thì sẽ là 4 tỷ, mặc dù trên thực tế những người đó không thể
nào sống sót được. Thật dễ dàng để bỏ qua việc chúng ta đã tiến được bao xa và
sự đổi mới thực sự đáng chú ý như thế nào. Người nông dân thời trung cổ sẽ phải
trả giá gì cho những tổ hợp rộng lớn, những hệ thống tưới tiêu hoành tráng của
một người nông dân hiện đại? Đối với họ, sự cải thiện gấp mười sáu lần không
khác gì một phép lạ. Nó là.
Nuôi sống thế giới vẫn là một thách thức to lớn. Nhưng nhu cầu này đã thúc
đẩy công nghệ phát triển và dẫn đến sự dồi dào không thể tưởng tượng được trong
thời gian trước đây: đủ lương thực, nếu không được phân phối đầy đủ, cho 8 tỷ
người trên hành tinh và dân số ngày càng tăng của con người.
Công nghệ, như trong trường hợp cung cấp thực phẩm, là một phần quan trọng
trong việc giải quyết những thách thức mà nhân loại chắc chắn phải đối mặt hôm
nay và sẽ phải đối mặt vào ngày mai. Chúng tôi theo đuổi các công nghệ mới, bao
gồm cả những công nghệ trong làn sóng sắp tới, không chỉ vì chúng tôi muốn mà còn
bởi vì, ở cấp độ cơ bản, chúng tôi cần chúng.
có khả năng thế giới đang hướng tới tình trạng khí hậu nóng lên từ 2 độ
C trở lên. Mỗi giây mỗi ngày, ranh giới sinh quyển—từ việc sử dụng nước
ngọt đến mất đa dạng sinh học—đều bị vi phạm.
Ngay cả những quốc gia giàu có, ôn hòa và kiên cường nhất cũng sẽ phải hứng chịu
những đợt nắng nóng và hạn hán, bão và căng thẳng về nước thảm khốc trong những
thập kỷ tới. Mùa màng sẽ thất bại. Cháy rừng hoành hành. Một lượng lớn khí mê-
tan sẽ thoát khỏi lớp băng vĩnh cửu đang tan chảy, đe dọa một vòng phản hồi
nhiệt độ cực cao. Bệnh tật sẽ lây lan vượt xa phạm vi thông thường của nó. Những
người tị nạn khí hậu và xung đột sẽ nhấn chìm thế giới khi mực nước biển dâng
cao một cách không thể tránh khỏi, đe dọa các trung tâm dân cư lớn. Các hệ sinh
thái trên biển và trên đất liền phải đối mặt với sự sụp đổ.
Bất chấp những thảo luận chính đáng về quá trình chuyển đổi năng
lượng sạch, khoảng cách vẫn còn rất lớn. Mật độ năng lượng của
hydrocarbon cực kỳ khó tái tạo cho các nhiệm vụ như cung cấp năng lượng
cho máy bay hoặc tàu container. Trong khi việc sản xuất điện sạch đang
phát triển nhanh chóng thì điện chỉ chiếm khoảng 25% sản lượng năng lượng toàn cầu.
75% còn lại khó chuyển đổi hơn nhiều. Kể từ đầu thế kỷ 21, việc sử dụng
năng lượng toàn cầu đã tăng 45%, nhưng tỷ lệ đến từ nhiên liệu hóa
thạch chỉ giảm từ 87 xuống 84% - có nghĩa là việc sử dụng nhiên liệu
hóa thạch tăng lên rất nhiều bất chấp mọi chuyển đổi sang sử dụng điện
sạch làm nguồn năng lượng. .
Học giả năng lượng Vaclav Smil gọi amoniac, xi măng, nhựa và thép
là bốn trụ cột của nền văn minh hiện đại: cơ sở vật chất bảo đảm cho xã
hội hiện đại, mỗi loại sản xuất đều sử dụng nhiều carbon và không có
trụ cột nào rõ ràng. Nếu không có những vật liệu này
cuộc sống hiện đại dừng lại, và không có nhiên liệu hóa thạch thì vật liệu cũng dừng
lại. Ba mươi năm qua đã chứng kiến 700 tỷ tấn bê tông thải ra carbon vào xã hội chúng
ta. Làm thế nào để thay thế điều đó? Xe điện có thể không thải ra carbon khi lái, nhưng
dù sao chúng cũng đang đói tài nguyên: vật liệu cho chỉ một chiếc xe điện đòi hỏi phải
khai thác khoảng 225 tấn nguyên liệu thô hữu hạn, nhu cầu hiện đang tăng vọt một cách
không bền vững.
Sản xuất thực phẩm, như chúng ta đã thấy, là một câu chuyện thành công lớn của công
nghệ. Nhưng từ máy kéo trên cánh đồng, đến phân bón tổng hợp, đến nhà kính bằng nhựa,
nó đều tràn ngập nhiên liệu hóa thạch. Hãy tưởng tượng một quả cà chua trung bình được
ngâm trong năm thìa dầu. Đó là số tiền đã bỏ ra để phát triển nó. Hơn nữa, để đáp ứng
nhu cầu toàn cầu, nông nghiệp sẽ cần sản xuất thêm gần 50% lương thực vào năm 2050 khi
năng suất giảm do biến đổi khí hậu.
Nếu chúng ta muốn có bất kỳ cơ hội nào để giữ cho sự nóng lên toàn cầu ở mức dưới
2 độ C, thì các nhà khoa học trên thế giới làm việc trong Ủy ban liên chính phủ về biến
đổi khí hậu của Liên Hợp Quốc đã nói rõ: thu hồi và lưu trữ carbon là một công nghệ
thiết yếu. Tuy nhiên, phần lớn nó vẫn chưa được phát minh hoặc vẫn đang được triển khai
trên quy mô lớn. Để đáp ứng thách thức toàn cầu này, chúng ta sẽ phải tái cơ cấu các
hệ thống nông nghiệp, sản xuất, vận tải và năng lượng ngay từ đầu bằng các công nghệ
mới trung hòa carbon hoặc thậm chí có thể âm carbon. Đây không phải là những nhiệm vụ
nhỏ nhặt. Trên thực tế, điều đó có nghĩa là xây dựng lại toàn bộ cơ sở hạ tầng của xã
hội hiện đại đồng thời hy vọng mang lại những cải thiện về chất lượng cuộc sống cho
hàng tỷ người.
Nhân loại không có lựa chọn nào khác ngoài việc phải đối mặt với những thách thức
như thế này và nhiều thách thức khác như làm thế nào để cung cấp dịch vụ chăm sóc sức
khỏe đắt tiền hơn bao giờ hết cho dân số già đang mắc các bệnh mãn tính khó chữa. Vì
vậy, đây là một động lực mạnh mẽ khác: một phần quan trọng giúp chúng ta phát triển khi
đối mặt với những nhiệm vụ khó khăn dường như nằm ngoài khả năng của chúng ta. Có một
trường hợp đạo đức mạnh mẽ đối với các công nghệ mới ngoài lợi nhuận hoặc lợi thế.
Công nghệ có thể và sẽ cải thiện cuộc sống và giải quyết các vấn đề. Hãy nghĩ về
một thế giới có nhiều cây xanh sống lâu hơn và hấp thụ nhiều
lượng CO2 lớn hơn . Hoặc thực vật phù du giúp đại dương trở thành bể chứa
carbon lớn hơn và bền vững hơn. AI đã giúp thiết kế một loại enzyme có thể
phân hủy nhựa đang làm tắc nghẽn đại dương của chúng ta. Nó cũng sẽ là một
phần quan trọng trong cách chúng ta dự đoán điều gì sắp xảy ra, từ việc đoán
xem đám cháy rừng có thể tấn công vùng ngoại ô ở đâu cho đến theo dõi nạn phá
rừng thông qua các bộ dữ liệu công cộng. Đây sẽ là thế giới của những loại
thuốc rẻ tiền, được cá nhân hóa; chẩn đoán nhanh, chính xác; và các sản phẩm
thay thế do AI tạo ra cho các loại phân bón tiêu tốn nhiều năng lượng.
Pin bền vững, có thể mở rộng cần những công nghệ mới triệt để.
Máy tính lượng tử kết hợp với AI, với khả năng mô hình hóa ở cấp độ phân tử,
có thể đóng một vai trò quan trọng trong việc tìm kiếm các chất thay thế cho
pin lithium thông thường nhẹ hơn, rẻ hơn, sạch hơn, dễ sản xuất và tái chế hơn
và dồi dào hơn. Tương tự như vậy khi làm việc với các vật liệu quang điện hoặc
khám phá thuốc, cho phép mô phỏng ở cấp độ phân tử xác định các hợp chất mới—
chính xác và mạnh mẽ hơn nhiều so với việc sử dụng các kỹ thuật thử nghiệm
chậm trong quá khứ. Đây là sự siêu tiến hóa trong hành động và nó hứa hẹn sẽ
tiết kiệm hàng tỷ USD cho R&D trong khi vượt xa mô hình nghiên cứu hiện tại.
Một trường phái theo chủ nghĩa giải pháp công nghệ ngây thơ coi công nghệ
là câu trả lời cho mọi vấn đề của thế giới. Một mình thì không. Cách nó được
tạo ra, sử dụng, sở hữu và quản lý đều tạo nên sự khác biệt. Không ai nên giả
vờ rằng công nghệ là câu trả lời gần như kỳ diệu cho một vấn đề đa diện và to
lớn như biến đổi khí hậu. Nhưng ý tưởng cho rằng chúng ta có thể giải quyết
những thách thức xác định của thế kỷ mà không cần công nghệ mới là hoàn toàn
viển vông. Cũng cần nhớ rằng các công nghệ của làn sóng sẽ giúp cuộc sống của
hàng tỷ người trở nên dễ dàng hơn, lành mạnh hơn, năng suất hơn và thú vị hơn.
Chúng sẽ tiết kiệm thời gian, chi phí, rắc rối và hàng triệu mạng sống. Tầm
quan trọng của điều này không nên bị tầm thường hóa hoặc bị lãng quên trong
bối cảnh không chắc chắn.
Làn sóng đang tới một phần vì không có nó thì không thể vượt qua được. Các
lực lượng có hệ thống, quy mô lớn như động lực này

công nghệ tiến lên. Nhưng có một sức mạnh khác mang tính cá nhân hơn mà tôi
từng trải qua và phần lớn bị đánh giá thấp: cái tôi.
CÁI TÔI
Các nhà khoa học và nhà công nghệ đều là con người. Họ khao khát địa vị,
thành công và di sản. Họ muốn trở thành người đầu tiên và tốt nhất và được
công nhận như vậy. Họ có tính cạnh tranh và thông minh với ý thức được nuôi
dưỡng cẩn thận về vị trí của họ trên thế giới và trong lịch sử. Họ thích vượt
qua các ranh giới, đôi khi vì tiền nhưng thường vì vinh quang, đôi khi chỉ
vì lợi ích riêng. Các nhà khoa học và kỹ sư AI nằm trong số những người được
trả lương cao nhất thế giới, tuy nhiên điều thực sự khiến họ phải rời giường
là triển vọng trở thành người đầu tiên tạo ra bước đột phá hoặc nhìn thấy tên
mình trên một tờ báo mang tính bước ngoặt. Dù yêu hay ghét họ, các ông trùm
công nghệ và doanh nhân đều được coi là kim chỉ nam duy nhất của quyền lực,
sự giàu có, tầm nhìn và ý chí tuyệt đối. Các nhà phê bình cũng như những
người hâm mộ xu nịnh đều coi họ là sự thể hiện cái tôi, xuất sắc trong việc
biến mọi thứ thành hiện thực.
Các kỹ sư thường có một tư duy đặc biệt. Giám đốc Los Alamos J. Robert
Oppenheimer là một người có nguyên tắc cao. Nhưng trên hết, anh ấy là người
giải quyết vấn đề theo tính tò mò. Hãy xem những lời này, theo cách riêng của
chúng, cũng rùng rợn như câu trích dẫn Bhagavad Gita nổi tiếng của ông (khi
xem vụ thử hạt nhân đầu tiên, ông nhớ lại một số dòng trong kinh thánh Hindu:
“Bây giờ tôi trở thành Thần chết, kẻ hủy diệt thế giới”): “Khi bạn nhìn thấy
điều gì đó thú vị về mặt kỹ thuật, bạn cứ tiếp tục và làm nó, và bạn tranh
luận về việc phải làm gì với nó chỉ sau khi bạn đã đạt được thành công về mặt
kỹ thuật.” Đó là quan điểm được chia sẻ bởi đồng nghiệp của ông trong Dự án
Manhattan, John von Neumann, người Mỹ gốc Hungary thông thái và đa tài. “Những
gì chúng ta đang tạo ra bây giờ,” ông nói, “là một con quái vật có ảnh hưởng
sẽ thay đổi lịch sử, miễn là còn sót lại lịch sử nào, nhưng không thể không
nhìn thấu nó, không chỉ vì lý do quân sự, mà còn vì lý do quân sự.” Mà còn
là phi đạo đức theo quan điểm của các nhà khoa học khi không làm những
gì họ biết là khả thi, bất kể nó có thể gây ra hậu quả khủng khiếp gì.”
Dành đủ thời gian trong môi trường kỹ thuật và, bất chấp mọi cuộc
nói chuyện về đạo đức và trách nhiệm xã hội, bạn sẽ nhận ra sự phổ
biến của quan điểm này, ngay cả khi đối mặt với những công nghệ cực kỳ
mạnh mẽ. Tôi đã nhìn thấy nó nhiều lần và có lẽ sẽ là nói dối nếu tôi
nói rằng bản thân tôi cũng chưa từng khuất phục nó.
Làm nên lịch sử, làm điều gì đó quan trọng, giúp đỡ người khác, đánh
bại người khác, gây ấn tượng với đối tác tiềm năng, gây ấn tượng với sếp,
đồng nghiệp, đối thủ: tất cả đều ở đó, tất cả là một phần của động lực luôn
hiện hữu để chấp nhận rủi ro, khám phá các khía cạnh, tiến xa hơn vào cái
chưa biết. Xây dựng một cái gì đó mới. Thay đổi trò chơi. Leo núi.
Cho dù cao thượng và có trí tuệ cao hay cay đắng và có tổng bằng 0, thì
khi bạn làm việc về công nghệ, khía cạnh này thường là khía cạnh này, thậm
chí còn hơn cả nhu cầu của các quốc gia hoặc mệnh lệnh của các cổ đông ở xa,
thúc đẩy sự tiến bộ. Tìm một nhà khoa học hoặc nhà công nghệ thành công và ở
đâu đó trong đó bạn sẽ thấy ai đó bị điều khiển bởi cái tôi thô sơ, bị thúc
đẩy bởi những xung động cảm xúc nghe có vẻ cơ bản hoặc thậm chí phi đạo đức
nhưng dù sao cũng là một phần lý do tại sao chúng ta có được những công nghệ
mà chúng ta làm chưa được công nhận. Huyền thoại ở Thung lũng Silicon về
người sáng lập công ty khởi nghiệp anh hùng đã một tay xây dựng đế chế trước
một thế giới thù địch và thiếu hiểu biết vẫn tồn tại dai dẳng là có lý do.
Chính các nhà công nghệ vẫn thường xuyên khao khát hình ảnh bản thân, một
nguyên mẫu để mô phỏng, một ảo tưởng vẫn thúc đẩy các công nghệ mới.
chủ nghĩa dân tộc, chủ nghĩa tư bản và khoa học—cho đến nay, đây là những
đặc điểm gắn liền với thế giới. Không thể loại bỏ chúng khỏi hiện trường
trong bất kỳ khung thời gian có ý nghĩa nào. Lòng vị tha và sự tò mò, sự
kiêu ngạo và sự cạnh tranh, mong muốn giành chiến thắng trong cuộc đua,
tạo dựng tên tuổi, cứu người, giúp đỡ thế giới, bất cứ điều gì có thể xảy ra
be: đây là những gì thúc đẩy làn sóng và những thứ này không thể bị loại bỏ hoặc phá
vỡ.
Hơn nữa, những động lực và yếu tố khác nhau này của sóng sẽ kết hợp lại. Các cuộc
chạy đua vũ trang quốc gia gắn liền với sự cạnh tranh giữa các công ty trong khi các
phòng thí nghiệm và nhà nghiên cứu thúc đẩy lẫn nhau. Nói cách khác, một loạt các chủng
tộc phụ lồng nhau tạo thành một động lực phức tạp, củng cố lẫn nhau. Công nghệ “nổi
lên” thông qua vô số đóng góp độc lập, tất cả xếp chồng lên nhau, một đám ý tưởng di
căn, vướng víu, tự làm sáng tỏ, được thúc đẩy bởi các động lực phân tán và có nguồn
gốc sâu xa.
Không có công cụ để truyền bá thông tin với tốc độ ánh sáng, con người trước đây
có thể vui vẻ ngồi trước những công nghệ mới đôi khi nhìn chằm chằm vào họ trong nhiều
thập kỷ trước khi họ nhận ra toàn bộ ý nghĩa của chúng.
Và ngay cả khi họ làm vậy, sẽ mất rất nhiều thời gian và cuối cùng là trí tưởng tượng
để nhận ra đầy đủ những phân nhánh rộng rãi. Ngày nay thế giới đang theo dõi những
người khác phản ứng theo thời gian thực.
Mọi thứ đều rò rỉ. Mọi thứ đều được sao chép, lặp lại, cải tiến. Và bởi vì mọi
người đang quan sát và học hỏi từ những người khác, với rất nhiều người đang nghiên
cứu cùng một lĩnh vực, chắc chắn sẽ có ai đó tìm ra bước đột phá lớn tiếp theo. Và họ
sẽ không có hy vọng kiềm chế được nó, vì ngay cả khi họ làm vậy, người khác sẽ đứng
sau họ và khám phá ra cùng một hiểu biết sâu sắc hoặc tìm ra cách tiếp cận khác để làm
điều tương tự; họ sẽ nhìn thấy tiềm năng chiến lược, lợi nhuận hoặc uy tín và theo
đuổi nó.
Đây là lý do tại sao chúng tôi sẽ không nói không. Đây là lý do tại sao làn sóng
sắp tới đang đến, tại sao việc ngăn chặn nó lại là một thách thức như vậy. Công nghệ
hiện nay là một hệ thống lớn không thể thiếu, thâm nhập vào mọi khía cạnh của cuộc
sống hàng ngày, xã hội và nền kinh tế. Không ai có thể làm mà không có nó. Các biện
pháp khuyến khích cố hữu được áp dụng cho nhiều hơn, một cách triệt để hơn. Không ai
có toàn quyền kiểm soát những gì nó làm hoặc nơi nó sẽ đi tiếp theo. Đây không phải là
một khái niệm triết học xa vời nào đó hay một kịch bản mang tính quyết định cực đoan
hay chủ nghĩa công nghệ trung tâm hoang dã của California. Đó là sự mô tả cơ bản về
thế giới mà tất cả chúng ta đang sống, thực ra là thế giới mà chúng ta đã sinh sống từ khá lâu.
Theo nghĩa này, có vẻ như công nghệ, sử dụng một hình ảnh không thể tha
thứ, là một cái nấm mốc lớn đang dần lăn về phía một tương lai không thể
tránh khỏi, với hàng tỷ đóng góp nhỏ bé được thực hiện bởi mỗi cá nhân học
giả hoặc doanh nhân mà không có bất kỳ sự phối hợp hay khả năng chống cự
nào. Những lực hấp dẫn mạnh mẽ sẽ kéo nó đi. Nơi các khối xuất hiện, các
khoảng trống mở ra ở nơi khác và toàn bộ cuộn về phía trước. Làm chậm các
công nghệ này là đi ngược lại lợi ích quốc gia, doanh nghiệp và nghiên cứu.
Đây là vấn đề hành động tập thể cuối cùng. Ý tưởng cho rằng CRISPR hoặc
AI có thể được đưa trở lại hộp là không đáng tin cậy. Cho đến khi ai đó có
thể tạo ra một con đường hợp lý để tháo dỡ những động cơ đan xen này, thì
lựa chọn không xây dựng, nói không, thậm chí có lẽ chỉ đi chậm lại hoặc đi
theo một con đường khác đều không có.
Chứa đựng công nghệ có nghĩa là cắt đứt tất cả các động lực tăng cường
lẫn nhau này. Thật khó để hình dung làm thế nào điều đó có thể được thực
hiện trong bất kỳ khoảng thời gian nào có thể ảnh hưởng đến làn sóng sắp
tới. Có lẽ chỉ có một thực thể duy nhất có thể cung cấp giải pháp, một thực
thể giữ vững hệ thống chính trị của chúng ta và chịu trách nhiệm cuối cùng
về những công nghệ mà xã hội tạo ra: nhà nước-dân tộc.
Nhưng có một vấn đề. Các quốc gia hiện đang phải đối mặt với căng thẳng
lớn và làn sóng sắp tới có vẻ sẽ khiến mọi việc trở nên phức tạp hơn nhiều.
Hậu quả của vụ va chạm này sẽ định hình phần còn lại của thế kỷ này.
PHẦN III
TIỂU BANG
SỰ THẤT BẠI
CHƯƠNG 9
TRÒ CHƠI LỚN
LỜI HỨA CỦA NHÀ NƯỚC
Tại trái tim của nó, quốc gia-dân tộc, đơn vị trung tâm của trật tự
chính trị thế giới ngày nay, đưa ra cho công dân của mình một sự mặc cả
đơn giản và có tính thuyết phục cao: rằng không chỉ có thể tập trung
quyền lực vào quốc gia có chủ quyền, lãnh thổ mà lợi ích của nó còn vượt
xa rủi ro. Lịch sử cho thấy rằng độc quyền kiểm soát bạo lực - tức là
giao cho nhà nước quyền lực rộng lớn để thực thi luật pháp và phát triển
sức mạnh quân sự - là cách chắc chắn nhất để mang lại hòa bình và thịnh
vượng. Hơn nữa, một quốc gia được quản lý tốt là nền tảng quan trọng cho
tăng trưởng kinh tế, an ninh và thịnh vượng. Trong hơn 500 năm qua, việc
tập trung quyền lực vào một chính quyền duy nhất là điều cần thiết để
giữ hòa bình, giải phóng tài năng sáng tạo của hàng tỷ người để làm việc
chăm chỉ, tìm kiếm giáo dục, phát minh, buôn bán và khi làm như vậy,
thúc đẩy sự tiến bộ.
Do đó, ngay cả khi nó ngày càng trở nên hùng mạnh hơn và vướng mắc
vào cuộc sống hàng ngày, thì món hời lớn của quốc gia-dân tộc là không
chỉ quyền lực tập trung có thể mang lại hòa bình và thịnh vượng mà quyền
lực này còn có thể được kiềm chế bằng cách sử dụng một loạt các biện pháp
kiểm tra, cân bằng, tái phân phối. và các hình thức thể chế. Chúng ta
thường coi đó là điều đương nhiên phải có sự cân bằng mong manh giữa các
thái cực để duy trì điều này. Một mặt, phải tránh sự thái quá quá mức của
quyền lực tập trung, mặt khác chúng ta phải chấp nhận sự can thiệp thường
xuyên để duy trì trật tự.
Ngày nay, hơn bao giờ hết trong lịch sử, các công nghệ của làn sóng sắp
tới có nguy cơ làm mất đi trạng thái cân bằng mong manh này. Nói một cách đơn
giản, cuộc mặc cả lớn đang rạn nứt và công nghệ là động lực quan trọng của sự
chuyển đổi lịch sử này.
Do các quốc gia-dân tộc chịu trách nhiệm quản lý và điều chỉnh tác động
của công nghệ vì lợi ích tốt nhất của người dân, họ đã chuẩn bị như thế nào
cho những gì sắp xảy ra? Nếu nhà nước không thể điều phối việc ngăn chặn làn
sóng này, không thể đảm bảo nó mang lại lợi ích ròng cho người dân của mình,
thì nhân loại sẽ có những lựa chọn nào trong trung và dài hạn?
Trong hai phần đầu tiên của cuốn sách, chúng ta đã thấy một làn sóng công
nghệ mạnh mẽ sắp ập đến với chúng ta. Bây giờ là lúc xem xét điều này có ý
nghĩa gì và nhìn thoáng qua một thế giới sau trận hồng thủy.
Trong phần thứ ba của cuốn sách này, chúng ta giải quyết những hậu quả sâu
sắc của những công nghệ này đối với quốc gia-dân tộc và trên hết là đối với
quốc gia-dân tộc dân chủ tự do. Các vết nứt đã hình thành.
Trật tự chính trị từng thúc đẩy sự giàu có ngày càng tăng, mức sống tốt hơn,
giáo dục, khoa học và công nghệ ngày càng phát triển, một thế giới hướng tới
hòa bình, giờ đây đang bị căng thẳng vô cùng, mất ổn định một phần bởi chính
những lực lượng mà nó đã góp phần tạo ra. Những hàm ý đầy đủ rất rộng lớn và
khó hiểu, nhưng đối với tôi, chúng cho thấy một tương lai nơi thách thức ngăn
chặn khó khăn hơn bao giờ hết, nơi mà tình thế tiến thoái lưỡng nan của thế
kỷ trở nên không thể tránh khỏi.
BÀI HỌC TỪ COPENHAGEN:
CHÍNH TRỊ LÀ CÁ NHÂN
Tôi luôn tin tưởng sâu sắc vào sức mạnh của nhà nước trong việc cải thiện cuộc
sống. Trước khi theo đuổi sự nghiệp AI, tôi đã làm việc trong chính phủ và khu
vực phi lợi nhuận. Tôi đã giúp thành lập một dịch vụ tư vấn từ thiện qua điện
thoại khi tôi 19 tuổi, làm việc cho thị trưởng London và đồng sáng lập một
công ty giải quyết xung đột tập trung vào các bên liên quan.
đàm phán. Làm việc với các công chức - người dân gầy gò và mệt mỏi nhưng luôn
được yêu cầu và làm những công việc anh hùng cho những người cần nó - đủ để cho
tôi thấy sẽ là thảm họa như thế nào nếu nhà nước thất bại.
Tuy nhiên, kinh nghiệm của tôi với chính quyền địa phương, các cuộc đàm phán
của Liên hợp quốc và các tổ chức phi lợi nhuận cũng mang lại cho tôi kiến thức
trực tiếp vô giá về những hạn chế của họ. Họ thường bị quản lý sai cách, cồng
kềnh và chậm hành động. Một dự án mà tôi đã hỗ trợ vào năm 2009 tại các cuộc đàm
phán về khí hậu ở Copenhagen liên quan đến việc triệu tập hàng trăm tổ chức phi
chính phủ và các chuyên gia khoa học để thống nhất quan điểm đàm phán của họ. Ý
tưởng là đưa ra lập trường nhất quán cho 192 quốc gia đang tranh chấp tại hội
nghị thượng đỉnh chính.
Ngoại trừ việc chúng tôi không thể đạt được sự đồng thuận về bất cứ điều gì.
Đầu tiên, không ai có thể đồng ý về mặt khoa học hoặc tính thực tế của những gì
đang diễn ra trên thực địa. Các ưu tiên đã bị phân tán. Không có sự đồng thuận về
những gì sẽ hiệu quả, giá cả phải chăng hoặc thậm chí thiết thực. Bạn có thể huy
động 10 tỷ USD để biến Amazon thành công viên quốc gia hấp thụ CO2 không? Bạn sẽ
đối phó với dân quân và hối lộ như thế nào? Hoặc có thể câu trả lời là trồng lại
rừng ở Na Uy chứ không phải Brazil, hay thay vào đó là giải pháp trồng các trang
trại tảo bẹ khổng lồ? Ngay khi đề xuất được đưa ra, đã có người lên tiếng chọc
thủng chúng. Mọi đề xuất đều là một vấn đề. Chúng tôi đã kết thúc với sự khác
biệt tối đa về tất cả những điều có thể xảy ra. Nói cách khác, đó là chính trị
như thường lệ.
Và điều này liên quan đến những người trên “cùng một đội”. Chúng tôi thậm chí
còn chưa đến được sự kiện chính và cuộc buôn ngựa thực sự. Tại hội nghị thượng
đỉnh Copenhagen, một loạt các quốc gia đều có quan điểm cạnh tranh riêng. Bây giờ
chồng chất lên những cảm xúc thô sơ. Các nhà đàm phán đang cố gắng đưa ra quyết
định trong khi hàng trăm người trong phòng đang tranh cãi, la hét và chia thành
từng nhóm trong khi đồng hồ đang tích tắc, trên cả đỉnh núi và hành tinh. Tôi ở
đó để cố gắng giúp tạo điều kiện thuận lợi cho quá trình này, có lẽ là cuộc đàm
phán đa phương phức tạp và có tính rủi ro cao nhất trong lịch sử loài người,
nhưng ngay từ đầu, điều đó gần như không thể thực hiện được. Quan sát điều này,
tôi nhận ra rằng chúng tôi sẽ không

đạt được tiến bộ đủ nhanh và đủ. Dòng thời gian quá chặt chẽ. Các vấn đề quá
phức tạp. Các thể chế của chúng ta nhằm giải quyết các vấn đề toàn cầu to lớn
không phù hợp với mục đích.
Tôi đã thấy điều tương tự xảy ra với thị trưởng London ở tuổi đôi mươi. Công
việc của tôi là kiểm tra tác động của luật nhân quyền đối với các cộng đồng
trong thành phố. Tôi đã phỏng vấn tất cả mọi người từ người Bangladesh gốc Anh
cho đến các nhóm Do Thái địa phương, già trẻ lớn bé, thuộc mọi tín ngưỡng và
hoàn cảnh. Kinh nghiệm cho thấy luật nhân quyền có thể giúp cải thiện cuộc sống
một cách rất thiết thực như thế nào. Không giống như Hoa Kỳ, Vương quốc Anh
không có hiến pháp thành văn bảo vệ các quyền cơ bản của người dân. Bây giờ các
nhóm địa phương có thể đưa vấn đề lên chính quyền địa phương và chỉ ra rằng họ
có nghĩa vụ pháp lý để bảo vệ những người dễ bị tổn thương nhất; họ không thể
chải chúng dưới thảm. Ở một mức độ nào đó, nó rất truyền cảm hứng. Nó mang lại
cho tôi hy vọng: các thể chế có thể có một bộ quy tắc được hệ thống hóa về công
lý. Hệ thống có thể cung cấp.
Nhưng tất nhiên, thực tế chính trị London rất khác. Trong thực tế, mọi thứ
đều biến thành những lời bào chữa, đổ lỗi, quay cuồng trên các phương tiện
truyền thông. Ngay cả khi có trách nhiệm pháp lý rõ ràng, các phòng ban hoặc hội
đồng cũng sẽ không phản hồi mà sẽ gian lận, né tránh và trì hoãn. Sự kiên định
khi đối mặt với những thách thức thực sự là đặc hữu.
Bước vào tòa thị chính London, tôi vừa bước sang tuổi 21. Đó là năm 2005 và
tôi lạc quan một cách ngây thơ. Về vấn đề đó, tôi tin vào chính quyền địa phương
—và Liên Hợp Quốc; Đối với người ngoài, chúng có vẻ là những tổ chức to lớn,
hiệu quả, nơi chúng ta có thể làm việc cùng nhau để giải quyết những câu hỏi
lớn. Tôi nghĩ, giống như nhiều người vào thời điểm đó, rằng chủ nghĩa toàn cầu
và nền dân chủ tự do là những mặc định, trạng thái kết thúc đáng hoan nghênh của lịch sử.
Tiếp xúc với thực tế là đủ để chỉ ra hố sâu giữa những lý tưởng vô vọng và thực
tế trên thực tế.
Trong khoảng thời gian đó, tôi cũng bắt đầu chú ý đến thứ khác rồi hình
thành. Facebook đang phát triển với tốc độ chưa từng thấy.
Bằng cách nào đó, ngay cả khi mọi thứ từ chính quyền địa phương đến Liên hợp
quốc dường như hoạt động với tốc độ chậm chạp, công ty khởi nghiệp nhỏ này đã
tăng lên hơn 100 triệu người dùng hàng tháng chỉ sau vài năm. Đĩa đơn đó
sự thật đã thay đổi cuộc đời tôi. Tôi thấy rất rõ ràng rằng một số tổ chức vẫn
có khả năng hoạt động hiệu quả cao trên quy mô lớn và họ đang hoạt động trong
những không gian mới, như nền tảng trực tuyến.
Ý tưởng cho rằng chỉ riêng công nghệ có thể giải quyết được các vấn đề xã
hội và chính trị là một ảo tưởng nguy hiểm. Nhưng ý tưởng cho rằng chúng có thể
được giải quyết mà không cần đến công nghệ cũng là sai lầm. Chứng kiến tận mắt
sự thất vọng của các công chức khiến tôi muốn tìm ra những cách hiệu quả khác để
hoàn thành công việc trên quy mô lớn, không làm việc chống lại mà phối hợp với
nhà nước để tạo ra những xã hội năng suất hơn, công bằng hơn, tử tế hơn.
Những đột phá về công nghệ sẽ giúp chúng ta giải quyết những thách thức được
đề cập ở phần trước: trồng lương thực trong điều kiện nhiệt độ không bền vững;
phát hiện trước lũ lụt, động đất, hỏa hoạn; và nâng cao mức sống cho mọi người.
Vào thời điểm chi phí tăng vọt và dịch vụ ngày càng xuống cấp, tôi coi AI và sinh
học tổng hợp là đòn bẩy quan trọng để giúp đẩy nhanh tiến độ. Họ sẽ làm cho dịch
vụ chăm sóc sức khỏe có chất lượng cao hơn và giá cả phải chăng hơn. Họ sẽ giúp
chúng tôi phát minh ra các công cụ nhằm thực hiện quá trình chuyển đổi sang năng
lượng tái tạo và chống biến đổi khí hậu vào thời điểm chính trị đang bị đình
trệ, đồng thời hỗ trợ giáo viên, giúp nâng cao hiệu quả của các hệ thống giáo
dục thiếu vốn. Đây chính là tiềm năng thực sự của tương lai
sóng.
Vì vậy, tôi bắt tay vào sự nghiệp trong lĩnh vực công nghệ, tin rằng thế hệ
công cụ mới có thể nâng cao khả năng hành động trên quy mô lớn của chúng ta,
hoạt động nhanh hơn nhiều so với các chính sách truyền thống. Đưa họ vào làm
việc để “phát minh ra tương lai” dường như là cách tốt nhất để tôi trải qua những
năm tháng hiệu quả nhất trong cuộc đời.
Tôi viện dẫn tính lý tưởng của mình để đặt các chương sau vào bối cảnh, để
làm rõ rằng tôi coi bức tranh thường được vẽ ra ảm đạm là một sự thất bại to lớn
của công nghệ và sự thất bại của những người xây dựng nó như tôi.
Trong khi công nghệ vẫn là con đường mạnh mẽ nhất để giải quyết những thách
thức của thế kỷ 21, chúng ta không thể

bỏ qua những nhược điểm. Mặc dù thừa nhận nhiều lợi ích, chúng ta cũng phải vượt
qua ác cảm bi quan và có cái nhìn lạnh lùng, kỹ lưỡng về những rủi ro mới có thể
phát sinh từ các công nghệ sử dụng đa dạng. Theo thời gian, bản chất của những rủi
ro đó – và quy mô của cổ phần – ngày càng trở nên rõ ràng hơn. Công nghệ không chỉ
là công cụ hỗ trợ cho những thỏa thuận mà chúng ta đã đạt được ở quốc gia; nó cũng
là một mối đe dọa thực sự đối với nó.
Một thiểu số có ảnh hưởng trong ngành công nghệ không chỉ tin rằng các công
nghệ mới gây ra mối đe dọa cho thế giới trật tự của các quốc gia-dân tộc của chúng
ta; nhóm này tích cực chào đón sự sụp đổ của nó. Những nhà phê bình này tin rằng
nhà nước chủ yếu là người cản đường. Họ cho rằng tốt nhất là nên vứt bỏ nó, vì nó
đã gặp rắc rối đến mức không thể giải cứu được nữa. Về cơ bản tôi không đồng ý; một
kết quả như vậy sẽ là một thảm họa.
Tôi là người Anh, sinh ra và lớn lên ở London, nhưng một bên gia đình tôi là
người Syria. Gia đình tôi đã bị cuốn vào cuộc chiến tranh khủng khiếp mà đất nước
đó phải gánh chịu trong những năm gần đây. Tôi biết rõ mọi chuyện sẽ như thế nào
khi các quốc gia thất bại, và nói một cách thô thiển thì nó tệ đến mức không thể
tưởng tượng được. Kinh khủng. Và bất cứ ai nghĩ rằng những gì đã xảy ra ở Syria
không bao giờ có thể xảy ra “ở đây” thì họ đang tự đùa giỡn; mọi người là con người dù họ ở đâu.
Hệ thống quốc gia-dân tộc của chúng ta không hề hoàn hảo, còn hơn thế nữa. Tuy
nhiên, chúng ta phải làm mọi cách để củng cố và bảo vệ nó. Cuốn sách này, một phần,
là nỗ lực của tôi nhằm bảo vệ nó.
Không có gì khác - không có viên đạn bạc nào khác - sẽ đến kịp lúc để cứu chúng
ta, hấp thụ lực gây mất ổn định của làn sóng. Đơn giản là không có lựa chọn nào
khác trong trung hạn.
Ngay cả trong những tình huống tốt nhất, làn sóng sắp tới sẽ là một cú sốc lớn
đối với các hệ thống quản lý xã hội. Trước khi khám phá sự nguy hiểm của làn sóng,
cần hỏi về tình trạng chung của các quốc gia-dân tộc. Họ có đủ hình dạng để đáp
ứng những thách thức phía trước không?
TRẠNG THÁI mong manh

Điều kiện sống toàn cầu ngày nay tốt hơn một cách khách quan so với bất kỳ thời
điểm nào trong quá khứ. Chúng ta coi nước sinh hoạt và nguồn cung cấp thực phẩm
dồi dào là điều hiển nhiên. Hầu hết mọi người đều thích sự ấm áp và nơi trú ẩn quanh năm.
Tỷ lệ biết chữ, tuổi thọ và bình đẳng giới luôn ở mức cao nhất mọi thời
đại. Tổng số hàng ngàn năm học thuật và nghiên cứu của con người có sẵn
chỉ bằng một nút bấm. Đối với hầu hết người dân ở các nước phát triển,
cuộc sống được đánh dấu bằng sự thoải mái và sung túc đến mức dường như
không thể tin được ở những thời đại đã qua. Tuy nhiên, sâu bên trong,
vẫn có cảm giác khó chịu rằng có điều gì đó không ổn.
Các xã hội phương Tây nói riêng đang chìm trong nỗi lo lắng sâu sắc;
chúng là những “trạng thái lo lắng”, bốc đồng và khó tính. Sự bất an
dai dẳng này một phần là kết quả của những cú sốc trước đó—nhiều cuộc
khủng hoảng tài chính, đại dịch, bạo lực (mọi thứ từ vụ 11/9 đến chiến
tranh Ukraine)—và một phần là do ảnh hưởng của những áp lực ngày càng
tăng và lâu dài như sự suy giảm lòng tin của công chúng, tình trạng bất
bình đẳng gia tăng, và khí hậu ấm lên. Bước vào làn sóng sắp tới, nhiều
quốc gia bị bao vây bởi hàng loạt thách thức lớn ảnh hưởng đến tính
hiệu quả của họ, khiến họ yếu đi, chia rẽ hơn và dễ đưa ra quyết định
chậm chạp và sai lầm. Làn sóng sắp tới sẽ đổ bộ vào một môi trường dễ
cháy, kém năng lực và quá tải. Điều này khiến thách thức ngăn chặn —
kiểm soát và chỉ đạo công nghệ sao cho chúng mang lại lợi ích ròng cho
nhân loại — thậm chí còn khó khăn hơn.
các nền dân chủ được xây dựng trên sự tin tưởng. Người dân cần tin
tưởng rằng các quan chức chính phủ, quân đội và giới tinh hoa khác sẽ
không lạm dụng vị trí thống trị của mình. Mọi người đều dựa vào niềm
tin rằng thuế sẽ được nộp, luật lệ được tôn trọng, lợi ích của tập thể
đặt lên trên cá nhân. Không có niềm tin, từ hòm phiếu đến tờ khai thuế,
từ hội đồng địa phương đến cơ quan tư pháp, xã hội sẽ gặp rắc rối.
Niềm tin vào chính phủ, đặc biệt là ở Mỹ, đã sụp đổ.
Các chính quyền tổng thống thời hậu chiến như của Eisenhower và
Theo một cuộc khảo sát của Pew, Johnson được hơn 70% người Mỹ tin tưởng sẽ làm
“điều đúng đắn”. Đối với các tổng thống gần đây như Obama, Trump và Biden, thước
đo niềm tin này đã bị ảnh hưởng, tất cả đều giảm xuống dưới 20%. Khá đáng chú ý,
một nghiên cứu năm 2018 về dân chủ ở Mỹ cho thấy cứ năm người thì có đến một người
tin rằng “sự cai trị của quân đội” là một ý tưởng hay! Không dưới 85% người Mỹ
cảm thấy đất nước đang “đi sai hướng”. Sự mất lòng tin còn mở rộng đến các tổ
chức phi chính phủ, với mức độ mất lòng tin ngày càng tăng đối với các phương tiện
truyền thông, cơ sở khoa học và ý tưởng về chuyên môn nói chung.
Vấn đề không chỉ giới hạn ở Hoa Kỳ. Một cuộc khảo sát khác của Pew cho thấy
trên 27 quốc gia, phần lớn không hài lòng với nền dân chủ của họ. Một cuộc thăm
dò về Chỉ số Nhận thức Dân chủ cho thấy trên 50 quốc gia, 2/3 số người được hỏi
cảm thấy chính phủ “hiếm khi” hoặc “không bao giờ” hành động vì lợi ích công cộng.
Việc rất nhiều người cảm thấy sâu sắc rằng xã hội đang thất bại chính là một vấn
đề: Sự ngờ vực sinh ra sự tiêu cực và thờ ơ. Mọi người từ chối bỏ phiếu.
Kể từ năm 2010, nhiều quốc gia đã tụt hậu về các biện pháp dân chủ hơn là tiến
bộ, một quá trình dường như đang tăng tốc. Chủ nghĩa dân tộc và chủ nghĩa độc tài
đang trỗi dậy dường như là đặc hữu, từ Ba Lan và Trung Quốc đến Nga, Hungary,
Philippines và Thổ Nhĩ Kỳ. Các phong trào dân túy bao gồm từ những phong trào kỳ
lạ, như QAnon, đến vô phương hướng ( gilets jaunes ở Pháp), nhưng từ Bolsonaro ở
Brazil đến Brexit ở Anh, sự nổi bật của họ trên trường thế giới là không thể bỏ
qua.
Đằng sau sự thúc đẩy độc tài mới và sự bất ổn chính trị là sự bất bình xã hội
ngày càng tăng. Là chất xúc tác chính gây ra sự bất ổn và bất bình xã hội, tình
trạng bất bình đẳng đã gia tăng khắp các quốc gia phương Tây trong những thập kỷ
gần đây, và không nơi nào nhiều hơn ở Hoa Kỳ.
Từ năm 1980 đến năm 2021, tỷ lệ thu nhập quốc dân mà 1% người giàu nhất kiếm được
đã tăng gần gấp đôi và hiện chỉ ở mức dưới 50%. Sự giàu có ngày càng tập trung
vào một nhóm nhỏ.
Chính sách của chính phủ, dân số trong độ tuổi lao động ngày càng thu hẹp, trì trệ
trình độ học vấn và tốc độ tăng trưởng chậm lại trong dài hạn đều góp phần tạo nên những
xã hội bất bình đẳng hơn. Bốn mươi triệu người ở Hoa Kỳ sống trong cảnh nghèo đói và hơn
năm triệu người sống trong “điều kiện của Thế giới thứ ba” - tất cả đều nằm trong nền
kinh tế giàu nhất thế giới.
Đây là những xu hướng đặc biệt đáng lo ngại khi bạn xem xét mối quan hệ dai dẳng giữa
tình trạng bất ổn xã hội, tình trạng bất bình đẳng ngày càng gia tăng và bạo lực chính
trị. Trên dữ liệu từ hơn một trăm quốc gia, bằng chứng cho thấy rằng tính di động xã hội
của một quốc gia càng thấp thì quốc gia đó càng trải qua nhiều biến động như bạo loạn,
đình công, ám sát, chiến dịch cách mạng và nội chiến. Khi mọi người cảm thấy bế tắc và
thấy người khác đang chiếm đoạt phần thưởng một cách không công bằng, họ sẽ tức giận.
Cách đây không lâu, thế giới được coi là “phẳng” - một địa hình không có ma sát, dễ
dàng giao thương và thịnh vượng ngày càng tăng. Trên thực tế, khi thế kỷ 21 trôi qua,
khủng hoảng chuỗi cung ứng và các cú sốc tài chính vẫn là những đặc điểm không thể xóa
nhòa của nền kinh tế. Những quốc gia nghiêng về chủ nghĩa dân tộc, một phần, đang quay
lưng lại với lời hứa tươi sáng của thế kỷ 20 rằng sự liên kết chặt chẽ hơn sẽ đẩy nhanh
sự lan rộng của cải và dân chủ.
Ở trong nước, an ninh quốc gia, chuỗi cung ứng linh hoạt, khả năng tự cung tự cấp—
ngôn ngữ thương mại ngày nay một lần nữa lại là ngôn ngữ của biên giới, rào cản và thuế
quan. Đồng thời, thực phẩm, năng lượng, nguyên liệu thô và hàng hóa các loại trở nên đắt
đỏ hơn.
Về cơ bản, toàn bộ trật tự kinh tế và an ninh thời hậu chiến đang phải đối mặt với tình
trạng căng thẳng chưa từng có.
Những thách thức toàn cầu đang đạt đến ngưỡng quan trọng. Lạm phát tràn lan. Thiếu
năng lượng. Thu nhập trì trệ. Một sự sụp đổ của niềm tin.
Làn sóng của chủ nghĩa dân túy. Không có tầm nhìn cũ nào từ cánh tả hay cánh hữu dường
như đưa ra những câu trả lời thuyết phục, tuy nhiên dường như các lựa chọn tốt hơn đang
bị thiếu hụt. Phải là một người dũng cảm, hoặc có thể bị ảo tưởng, mới có thể lập luận
rằng mọi chuyện đều ổn, rằng không có những thế lực nghiêm trọng của chủ nghĩa dân túy,
sự tức giận và rối loạn chức năng đang hoành hành khắp các xã hội — tất cả đều bất chấp
mức sống cao nhất mà thế giới từng biết đến.

Điều này làm cho việc ngăn chặn trở nên phức tạp hơn nhiều. Hình thành sự đồng
thuận trong nước và quốc tế cũng như thiết lập các tiêu chuẩn mới xung quanh các công
nghệ chuyển động nhanh vốn là những thách thức lớn. Làm sao chúng ta có thể hy vọng
làm được điều này khi chế độ cơ bản của chúng ta dường như không ổn định?
CÔNG NGHỆ LÀ CHÍNH TRỊ:
THÁCH THỨC CỦA WAVE ĐỐI VỚI CÁC TIỂU BANG
Mọi làn sóng công nghệ trước đây đều có ý nghĩa chính trị sâu sắc. Chúng ta nên mong
đợi điều tương tự trong tương lai. Làn sóng cuối cùng - sự xuất hiện của máy tính lớn,
máy tính để bàn và phần mềm máy tính để bàn, Internet và điện thoại thông minh - đã
mang lại những lợi ích to lớn cho xã hội. Nó đặt ra những công cụ mới cho nền kinh tế
hiện đại, thúc đẩy tăng trưởng, chuyển đổi khả năng tiếp cận kiến thức, giải trí và
với nhau. Trong bối cảnh hiện nay đang có nhiều tranh cãi về những tác động tiêu cực
của mạng xã hội, thật dễ dàng bỏ qua vô số mặt tích cực này. Tuy nhiên, trong thập kỷ
qua, sự đồng thuận ngày càng tăng cho thấy những công nghệ này còn làm được điều gì
đó khác: tạo điều kiện để nuôi dưỡng và khuếch đại sự phân cực chính trị cơ bản và sự
mong manh về thể chế này.
Hầu như không có gì mới khi các nền tảng truyền thông xã hội có thể kích hoạt
những phản ứng cảm xúc sâu sắc, những luồng adrenaline được cung cấp một cách hiệu quả
bởi các mối đe dọa được nhận thức. Phương tiện truyền thông xã hội phát triển mạnh nhờ
những cảm xúc dâng trào và khá thường xuyên là sự phẫn nộ. Một phân tích tổng hợp được
công bố trên tạp chí Nature đã xem xét kết quả của gần 500 nghiên cứu, kết luận rằng
có mối tương quan rõ ràng giữa việc sử dụng ngày càng tăng các phương tiện truyền
thông kỹ thuật số và sự mất lòng tin ngày càng tăng vào chính trị, các phong trào dân
túy, sự căm ghét và sự phân cực. Mối tương quan có thể không phải là quan hệ nhân quả,
nhưng đánh giá có hệ thống này đưa ra “bằng chứng rõ ràng về các mối đe dọa nghiêm
trọng đối với nền dân chủ” đến từ các công nghệ mới.
Công nghệ đã làm xói mòn các biên giới ổn định, có chủ quyền của các quốc gia, tạo
ra hoặc hỗ trợ các dòng người vốn có tính toàn cầu,

thông tin, ý tưởng, bí quyết, hàng hóa, thành phẩm, vốn và của cải. Như
chúng ta đã thấy, nó là một thành phần quan trọng của chiến lược địa chính
trị. Nó chạm tới hầu hết mọi khía cạnh của đời sống con người. Ngay cả
trước khi làn sóng sắp tới ập đến, công nghệ đã là động lực trên trường
thế giới, một yếu tố chính khiến sức khỏe của các quốc gia trên thế giới
ngày càng suy giảm. Quá nhanh trong quá trình phát triển, quá toàn cầu,
quá linh hoạt và hấp dẫn đối với bất kỳ mô hình ngăn chặn đơn giản nào, có
tầm quan trọng về mặt chiến lược, được hàng tỷ người tin cậy, bản thân
công nghệ hiện đại là tác nhân chính, một lực lượng to lớn mà các quốc gia
phải đấu tranh để quản lý. AI, sinh học tổng hợp và phần còn lại đang được
đưa vào các xã hội rối loạn chức năng vốn đã rung chuyển qua lại trên các
làn sóng công nghệ có sức mạnh to lớn. Đây không phải là một thế giới sẵn
sàng cho làn sóng sắp tới. Đây là một thế giới đang oằn mình trước sự căng thẳng hiện có
Tôi thường nghe người ta nói rằng công nghệ có “giá trị trung lập” và tính
chính trị của nó nảy sinh từ việc sử dụng nó. Điều này quá ngắn gọn và đơn
giản đến mức gần như vô nghĩa. Công nghệ không trực tiếp “gây ra” hay tạo ra
nhà nước hiện đại (hoặc thực tế là bất kỳ cơ cấu chính trị nào). Nhưng tiềm
năng mà nó giải phóng không hề trung tính trong câu chuyện đó.
Như nhà sử học công nghệ Langdon Winner đã nói: “Công nghệ dưới
nhiều hình thức khác nhau là một phần quan trọng của thế giới loài
người. Cấu trúc, quá trình và sự thay đổi của nó tham gia và trở thành
một phần của cấu trúc, quá trình và sự thay đổi của ý thức, xã hội và
chính trị của con người.” Nói cách khác, công nghệ mang tính chính trị.
Thực tế này hoàn toàn không được công nhận bởi các nhà lãnh đạo của
chúng tôi mà ngay cả bởi những người xây dựng công nghệ. Đôi khi việc
chính trị hóa tinh vi nhưng có mặt khắp nơi này gần như vô hình. Nó không
nên như vậy. Mạng xã hội chỉ là lời nhắc nhở gần đây nhất rằng công nghệ
và tổ chức chính trị không thể tách rời nhau. Các trạng thái và công nghệ là
gắn bó mật thiết với nhau. Điều này có những hậu quả quan trọng cho những gì
sắp xảy ra.
Mặc dù công nghệ không đơn giản đẩy con người đi theo một hướng đã định
trước, nhưng thuyết quyết định công nghệ không phải là ngây thơ khi nhận ra xu
hướng của nó nhằm đáp ứng những khả năng nhất định hoặc xem nó thúc đẩy một số
kết quả như thế nào so với những kết quả khác. Trong vấn đề này, công nghệ là
một trong những yếu tố then chốt quyết định lịch sử, nhưng không bao giờ đơn
độc và không bao giờ theo cách máy móc, vốn có thể dự đoán được. Nó không gây
ra những hành vi hoặc kết quả nhất định một cách hời hợt, nhưng những gì nó tạo
ra sẽ hướng dẫn hoặc hạn chế các khả năng.
Chiến tranh, hòa bình, thương mại, trật tự chính trị, văn hóa—những thứ này
về cơ bản luôn có mối liên hệ với nhau và còn liên kết với nhau hơn nữa với
công nghệ. Công nghệ là những ý tưởng, được thể hiện trong các sản phẩm và dịch
vụ có tác động sâu sắc và lâu dài đối với con người, cấu trúc xã hội, môi trường
và mọi thứ liên quan.
Công nghệ hiện đại và nhà nước phát triển cộng sinh, trong sự đối thoại liên
tục. Hãy nghĩ xem công nghệ đã hỗ trợ như thế nào cho các bộ phận làm việc cốt
lõi của nhà nước, giúp xây dựng nên bản sắc và hành chính quốc gia. Chữ viết
được phát minh như một công cụ hành chính và kế toán để theo dõi các khoản nợ,
tài sản thừa kế, luật pháp, thuế, hợp đồng và hồ sơ sở hữu. Đồng hồ tạo ra thời
gian cố định, đầu tiên là trong những không gian hạn chế như tu viện nhưng sau
đó ở dạng cơ học trên khắp các thành phố thương mại cuối thời Trung cổ và cuối
cùng trên khắp các quốc gia, tạo ra các đơn vị xã hội chung và lớn hơn bao giờ
hết. Máy in đã giúp tiêu chuẩn hóa các ngôn ngữ quốc gia khỏi sự hỗn loạn của
các phương ngữ và do đó giúp tạo ra một “cộng đồng tưởng tượng” quốc gia, những
con người thống nhất đằng sau một quốc gia-dân tộc. Thay thế những truyền thống
truyền miệng trôi chảy hơn, chữ in đã cố định vị trí địa lý, kiến thức và lịch
sử, ban hành các bộ luật và hệ tư tưởng nhất định. Đài phát thanh và truyền
hình đã thúc đẩy quá trình này, đồng thời tạo ra những khoảnh khắc chung của
quốc gia và thậm chí quốc tế, chẳng hạn như các cuộc trò chuyện bên lề lò lửa
của FDR hoặc World Cup.

Vũ khí cũng là công nghệ trung tâm tạo nên sức mạnh của các quốc gia.
Quả thực, các nhà lý thuyết về nhà nước thường cho rằng bản thân chiến tranh
là nền tảng cho sự hình thành của nó (theo lời của nhà khoa học chính trị
Charles Tilly, “Chiến tranh tạo ra nhà nước và nhà nước tạo ra chiến tranh”),
cũng như xung đột luôn là động lực thúc đẩy những nỗ lực mới. công nghệ—từ
xe ngựa và áo giáp kim loại đến radar và các con chip tiên tiến dẫn đường
cho đạn dược chính xác. Được du nhập vào châu Âu vào thế kỷ 13, thuốc súng
đã phá vỡ khuôn mẫu phòng thủ cũ của các lâu đài thời trung cổ.
Các khu định cư kiên cố giờ đây đang sẵn sàng cho việc bắn phá. Trong Chiến
tranh Trăm năm giữa Anh và Pháp, khả năng tấn công đã mang lại lợi thế cho
những ai có đủ khả năng mua, chế tạo, bảo trì, di chuyển và triển khai các
khẩu pháo tiêu tốn nhiều vốn. Qua nhiều năm, nhà nước tập trung quyền lực
sát thương ngày càng tăng vào tay mình, tuyên bố độc quyền sử dụng vũ lực
một cách hợp pháp.
Nói một cách đơn giản, công nghệ và trật tự chính trị có mối liên hệ mật
thiết với nhau. Sự ra đời của các công nghệ mới có những hậu quả chính trị
lớn. Giống như súng thần công và máy in đã đảo lộn xã hội, chúng ta nên mong
đợi điều tương tự từ các công nghệ như AI, robot và sinh học tổng hợp.
Hãy dừng lại một chút và tưởng tượng một thế giới nơi những robot với sự
khéo léo của con người có thể được “lập trình” bằng tiếng Anh đơn giản có
sẵn với giá bằng một chiếc lò vi sóng. Bạn có thể bắt đầu nghĩ đến tất cả
những ứng dụng mà công nghệ có giá trị như vậy sẽ được sử dụng không? Hoặc
những công cụ như vậy sẽ được áp dụng rộng rãi đến mức nào? Ai hay đúng hơn
là cái gì sẽ chăm sóc mẹ già của bạn tại viện dưỡng lão? Bạn sẽ gọi đồ ăn ở
nhà hàng như thế nào và ai sẽ mang đồ ăn đến bàn của bạn? Cơ quan thực thi
pháp luật trông như thế nào trong tình huống bắt giữ con tin? Ai sẽ là nhân
viên chăm sóc vườn cây vào thời điểm thu hoạch? Các nhà hoạch định quân sự
và bán quân sự sẽ phản ứng thế nào khi không cần đưa con người vào chiến
đấu? Sân thể thao sẽ như thế nào khi trẻ em tập luyện bóng đá? Công cụ dọn
dẹp cửa sổ của bạn sẽ trông như thế nào? Ai sở hữu tất cả phần cứng và IP
này, ai kiểm soát nó, những biện pháp bảo vệ nào được áp dụng nếu—khi—nó gặp sự cố?
Hãy tưởng tượng tất cả những điều này, và nó hàm ý một nền kinh tế chính trị rất khác
so với ngày nay.
nhà nước-dân tộc công nghiệp hóa, dân chủ tự do, hiện đại đã trở thành lực
lượng thống trị toàn cầu kể từ đầu thế kỷ XX, là “kẻ chiến thắng” rõ ràng
trong cuộc xung đột chính trị lớn của thế kỷ trước. Nó đi kèm với các chức
năng xác định hiện được coi là đương nhiên. Việc cung cấp an ninh.
Sự tập trung lớn quyền lực hợp pháp vào trung tâm, có khả năng thống trị
hoàn toàn trong khu vực pháp lý của họ, nhưng cũng có sự kiểm tra và cân
bằng hợp lý cũng như sự phân chia giữa tất cả các hình thức quyền lực.
Phúc lợi đầy đủ thông qua tái phân phối và quản lý kinh tế hợp lý. Các
khuôn khổ ổn định về đổi mới công nghệ và quy định, cùng với toàn bộ cấu
trúc kinh tế-pháp lý của toàn cầu hóa.
Trong những chương tiếp theo, chúng ta sẽ thấy làn sóng sắp tới đặt tất cả những
điều này vào mối đe dọa lớn như thế nào.
Tôi nghĩ những gì xuất hiện sẽ có xu hướng theo hai hướng với nhiều
kết quả ở giữa. Trên một quỹ đạo, một số quốc gia dân chủ tự do sẽ tiếp
tục bị xói mòn từ bên trong, trở thành một loại chính phủ xác sống. Những
cái bẫy của nền dân chủ tự do và nhà nước-dân tộc truyền thống vẫn còn tồn
tại, nhưng về mặt chức năng, chúng đã bị bỏ trống, các dịch vụ cốt lõi
ngày càng trở nên lỗi thời, chính thể không ổn định và dễ rạn nứt. Lảo đảo
trong sự vắng mặt của bất cứ điều gì khác, họ trở nên suy thoái và rối
loạn chức năng hơn bao giờ hết. Mặt khác, việc áp dụng một cách thiếu suy
nghĩ một số khía cạnh của làn sóng sắp tới sẽ mở ra con đường dẫn đến sự
kiểm soát độc đoán của nhà nước, tạo ra những Leviathan siêu tăng áp có
quyền lực vượt xa cả những chính phủ toàn trị cực đoan nhất trong lịch sử.
Các chế độ độc tài cũng có thể có xu hướng trở thành trạng thái thây ma,
nhưng chúng cũng có thể tăng gấp đôi, được thúc đẩy và trở thành các chế
độ độc tài công nghệ chính thức. Trên cả hai con đường, sự cân bằng mong
manh giữ các quốc gia lại với nhau sẽ rơi vào tình trạng hỗn loạn.
Cả các quốc gia thất bại và các chế độ độc tài đều là những kết quả tai
hại, không chỉ về mặt của chính họ mà còn đối với công nghệ quản lý; cả những
bộ máy quan liêu, những kẻ cơ hội theo chủ nghĩa dân túy hay những kẻ độc tài
toàn năng đều không phải là những người mà bạn muốn chịu trách nhiệm cơ bản
trong việc kiểm soát các công nghệ mới mạnh mẽ. Cả hai hướng đều không thể
hoặc sẽ chứa được làn sóng sắp tới.
Khi đó, mối nguy hiểm ở cả hai bên, vì việc quản lý làn sóng sắp tới đòi
hỏi các nhà nước tự tin, nhanh nhẹn, mạch lạc, có trách nhiệm trước người dân,
có kiến thức chuyên môn, cân bằng giữa lợi ích và động cơ, có khả năng phản
ứng nhanh và dứt khoát với hành động lập pháp và quan trọng là, phối hợp quốc
tế chặt chẽ. Các nhà lãnh đạo sẽ cần phải thực hiện những hành động táo bạo
chưa từng có tiền lệ, đánh đổi lợi ích ngắn hạn để lấy lợi ích lâu dài. Để
ứng phó hiệu quả với một trong những sự kiện có ảnh hưởng sâu rộng và mang
tính biến đổi nhất trong lịch sử sẽ đòi hỏi các chính phủ trưởng thành, ổn
định và trên hết là đáng tin cậy phải thực hiện tốt nhất khả năng của mình.
Những trạng thái hoạt động thực sự rất tốt. Đó là những gì cần phải làm để đảm
bảo rằng làn sóng sắp tới mang lại những lợi ích to lớn mà nó hứa hẹn. Đó là
một đơn đặt hàng cực kỳ cao.
Những robot rẻ tiền, có mặt ở khắp nơi như những robot được phác thảo ở
trên, cùng với một loạt các công nghệ biến đổi khác mà chúng ta đã thấy trong
phần 2, hoàn toàn không thể tránh khỏi trong khoảng thời gian 20 năm và có thể
sớm hơn nhiều. Trong bối cảnh này, chúng ta có thể mong đợi những thay đổi sâu
sắc đối với nền kinh tế, quốc gia và mọi thứ đi kèm với chúng. Cuộc mặc cả lớn
đã gặp rắc rối rồi. Khi trận lụt bắt đầu, một loạt các yếu tố gây căng thẳng
mới sẽ làm lung lay nền tảng của nó.
CHƯƠNG 10
BỘ KHUẾCH ĐẠI DỄ DÀNG
KHẨN CẤP QUỐC GIA 2.0:
KHÔNG ĐỐI XỨA TRONG HÀNH ĐỘNG
Sáng ngày 12 tháng 5 năm 2017, Bộ Y tế Quốc gia Anh

Dịch vụ (NHS) bị đình trệ. Hàng nghìn cơ sở trên toàn quốc đột nhiên
thấy hệ thống CNTT của họ ngừng hoạt động. Trong bệnh viện, nhân viên
không được sử dụng các thiết bị y tế quan trọng như máy quét MRI và
không thể truy cập hồ sơ bệnh nhân. Hàng nghìn thủ tục đã được lên
lịch, từ các cuộc hẹn khám ung thư đến các ca phẫu thuật tự chọn, đã
phải hủy bỏ. Các đội chăm sóc hoảng loạn đã hoàn nguyên về hướng dẫn sử dụng
những điểm dừng, sử dụng giấy ghi chú và điện thoại cá nhân. Bệnh viện
Hoàng gia London đã đóng cửa khoa cấp cứu, bệnh nhân nằm trên cáng bên
ngoài phòng phẫu thuật.
NHS đã bị tấn công bằng ransomware. Nó được gọi là WannaCry và quy
mô của nó rất lớn. Ransomware hoạt động bằng cách xâm phạm hệ thống
để mã hóa và do đó khóa quyền truy cập vào các tệp và khả năng chính.
Những kẻ tấn công mạng thường yêu cầu một khoản tiền chuộc để đổi lấy
việc giải phóng một hệ thống bị giam giữ.
NHS không phải là mục tiêu duy nhất của WannaCry. Khai thác lỗ
hổng trong các hệ thống cũ của Microsoft, tin tặc đã tìm ra cách khiến
nhiều khu vực trong thế giới kỹ thuật số bị đình trệ, bao gồm các tổ
chức như Deutsche Bahn, Telefónica, FedEx, Hitachi, thậm chí cả Bộ
Công an Trung Quốc. WannaCry đã lừa một số người dùng mở một email và
phát tán một “sâu” sao chép và
tự vận chuyển để lây nhiễm 1/4 triệu máy tính trên 150 quốc gia chỉ
trong một ngày. Trong vài giờ sau cuộc tấn công, phần lớn thế giới kỹ
thuật số chao đảo, bị một kẻ tấn công giấu mặt ở xa bắt giữ để đòi
tiền chuộc. Thiệt hại sau đó lên tới 8 tỷ USD nhưng hậu quả thậm chí
còn nghiêm trọng hơn. Cuộc tấn công WannaCry đã phơi bày mức độ dễ bị
tổn thương của các tổ chức mà chúng tôi coi là hoạt động bình thường
trước các cuộc tấn công mạng tinh vi.
Cuối cùng, NHS—và thế giới—đã gặp may mắn. Một hacker người Anh 22
tuổi tên là Marcus Hutchins đã tình cờ tìm được một kill switch. Xem
qua mã của phần mềm độc hại, anh thấy một tên miền trông kỳ quặc.
Đoán rằng đây có thể là một phần trong cấu trúc chỉ huy và kiểm soát
của sâu, đồng thời nhận thấy miền này chưa được đăng ký, Hutchins đã
mua nó với giá chỉ 10,69 USD, cho phép anh ta kiểm soát vi rút trong
khi Microsoft tung ra các bản cập nhật để vá lỗ hổng.
Có lẽ điều đặc biệt nhất về WannaCry là nó đến từ đâu. WannaCry

được xây dựng bằng công nghệ do Cơ quan An ninh Quốc gia Hoa Kỳ (NSA)
tạo ra. Một đơn vị ưu tú của NSA có tên là Văn phòng Điều hành Truy
cập Tùy chỉnh đã phát triển một phương thức khai thác tấn công mạng
có tên EternalBlue. Theo lời của một nhân viên NSA, đây là “chìa khóa
của vương quốc”, các công cụ được thiết kế để “phá hoại an ninh của
nhiều mạng lưới chính phủ và doanh nghiệp lớn cả trong và ngoài nước”.
Làm thế nào mà công nghệ đáng gờm này, được phát triển bởi một
trong những tổ chức có kỹ thuật phức tạp nhất hành tinh, lại bị một
nhóm tin tặc lấy được? Như Microsoft đã chỉ ra vào thời điểm đó, “Một
kịch bản tương tự với vũ khí thông thường sẽ là quân đội Hoa Kỳ bị
đánh cắp một số tên lửa Tomahawk”. Không giống như tên lửa Tomahawk,
vũ khí kỹ thuật số của NSA có thể lặng lẽ trượt vào ổ USB. Các hacker
đã đánh cắp công nghệ, một nhóm được gọi là Shadow Brokers, đã rao
bán EternalBlue. Từ đó nó sớm rơi vào tay tin tặc Bắc Triều Tiên, có
lẽ là
đơn vị mạng Cục 121 do nhà nước bảo trợ. Sau đó họ tung nó ra thế giới.
Bất chấp các bản vá nhanh chóng, hậu quả từ vụ rò rỉ EternalBlue vẫn
chưa kết thúc. Vào tháng 6 năm 2017, một phiên bản mới của loại vũ khí
này đã xuất hiện, lần này được thiết kế đặc biệt để nhắm vào cơ sở hạ
tầng quốc gia Ukraine trong một cuộc tấn công nhanh chóng được cho là do
tình báo quân đội Nga thực hiện. Cuộc tấn công mạng NotPetya gần như
khiến đất nước phải suy sụp. Hệ thống giám sát bức xạ tại Chernobyl bị mất điện.
Máy ATM ngừng rút tiền. Điện thoại di động im lặng. Mười phần trăm máy
tính của đất nước đã bị nhiễm virus và cơ sở hạ tầng cơ bản từ lưới điện
đến Ngân hàng Tiết kiệm Nhà nước Ukraine đã ngừng hoạt động. Các công ty
đa quốc gia lớn như hãng vận tải khổng lồ Maersk đã bất động, chịu thiệt
hại tài sản thế chấp.
Đây là một câu chuyện ngụ ngôn về công nghệ trong thế kỷ XXI.
Phần mềm được tạo ra bởi các dịch vụ bảo mật của quốc gia có công nghệ
phức tạp nhất thế giới bị rò rỉ hoặc bị đánh cắp. Từ đó, nó lọt vào tay
những kẻ khủng bố kỹ thuật số làm việc cho một trong những quốc gia thất
bại nhất thế giới và các cường quốc hạt nhân thất thường. Sau đó, nó
được vũ khí hóa, chống lại kết cấu cốt lõi của nhà nước đương đại: dịch
vụ y tế, cơ sở hạ tầng giao thông và năng lượng, các hoạt động kinh
doanh thiết yếu trong truyền thông và hậu cần toàn cầu. Nói cách khác,
do thất bại cơ bản trong việc ngăn chặn, một siêu cường toàn cầu đã trở
thành nạn nhân của công nghệ mạnh mẽ và được cho là an toàn của chính
mình.
Đây là sự bất đối xứng không thể kiểm soát được trong hành động.
may mắn thay, các cuộc tấn công bằng ransomware được mô tả ở trên đều
dựa vào các vũ khí mạng thông thường. May mắn thay, họ không phụ thuộc
vào đặc điểm của làn sóng sắp tới. Sức mạnh và tiềm năng của họ bị hạn
chế. Quốc gia bị trầy xước, bầm dập nhưng không phải
về cơ bản bị suy yếu. Tuy nhiên, vấn đề là khi nào chứ không phải liệu cuộc tấn công tiếp
theo có xảy ra hay không và lần sau chúng ta có thể không may mắn như vậy.
Thật thú vị khi cho rằng các cuộc tấn công mạng kém hiệu quả hơn nhiều so với những gì
chúng ta tưởng tượng, xét đến tốc độ phục hồi các hệ thống quan trọng sau các cuộc tấn
công như WannaCry. Với làn sóng sắp tới, giả định đó là một sai lầm nghiêm trọng. Những
cuộc tấn công như vậy chứng tỏ rằng có những kẻ sẽ sử dụng các công nghệ tiên tiến để làm
suy giảm và vô hiệu hóa các chức năng chính của trạng thái. Chúng cho thấy các thể chế cốt
lõi của cuộc sống hiện đại rất dễ bị tổn thương. Một cá nhân duy nhất và một công ty tư
nhân (Microsoft) đã vá được điểm yếu mang tính hệ thống. Cuộc tấn công này không tôn trọng
biên giới quốc gia. Vai trò của chính phủ trong việc xử lý khủng hoảng còn hạn chế.
Bây giờ hãy tưởng tượng nếu thay vì vô tình để lộ một lỗ hổng, các tin tặc đằng sau
WannaCry đã thiết kế chương trình này để tìm hiểu một cách có hệ thống về các lỗ hổng của
chính nó và liên tục vá chúng. Hãy tưởng tượng nếu khi bị tấn công, chương trình sẽ phát
triển để khai thác thêm những điểm yếu. Hãy tưởng tượng rằng sau đó nó bắt đầu di chuyển
qua mọi bệnh viện, mọi văn phòng, mọi nhà, không ngừng biến đổi, học hỏi. Nó có thể tấn
công các hệ thống hỗ trợ sự sống, cơ sở hạ tầng quân sự, tín hiệu giao thông, mạng lưới
năng lượng, cơ sở dữ liệu tài chính. Khi nó lan rộng, hãy tưởng tượng chương trình đang
học cách phát hiện và ngăn chặn những nỗ lực tiếp theo nhằm tắt nó. Một loại vũ khí như
thế này sắp xuất hiện nếu chưa được phát triển.
WannaCry và NotPetya bị hạn chế so với các loại tác nhân học tập có mục đích ngày càng
chung sẽ tạo nên thế hệ vũ khí mạng tiếp theo, có nguy cơ gây ra tình trạng khẩn cấp quốc
gia 2.0. Các cuộc tấn công mạng ngày nay không phải là mối đe dọa thực sự; họ là chim
hoàng yến trong mỏ than của một thời đại mới dễ bị tổn thương và bất ổn, làm suy giảm vai
trò của quốc gia-nhà nước với tư cách là trọng tài duy nhất về an ninh.
Đây là một ứng dụng cụ thể, ngắn hạn của công nghệ làn sóng tiếp theo đang làm xáo
trộn cơ cấu của bang. Trong chương này, chúng ta xem xét điều này và các yếu tố gây căng
thẳng khác bị bào mòn như thế nào tại chính tòa nhà chịu trách nhiệm về
công nghệ quản lý. Những bộ khuếch đại mong manh này, những cú sốc hệ thống, các
trường hợp khẩn cấp 2.0, sẽ làm trầm trọng thêm những thách thức hiện có, làm
lung lay nền tảng của nhà nước, làm đảo lộn sự cân bằng xã hội vốn đã bấp bênh
của chúng ta. Một phần, đây là câu chuyện về ai có thể làm gì, câu chuyện về quyền
lực và nó nằm ở đâu.
CHI PHÍ ĐIỆN GIẢM TUYỆT VỜI
Quyền lực là “khả năng hoặc khả năng làm điều gì đó hoặc hành động theo một cách
cụ thể;…để chỉ đạo hoặc ảnh hưởng đến hành vi của người khác hoặc diễn biến của
các sự kiện”. Chính năng lượng cơ hoặc điện tạo nên nền văn minh. Nền tảng và
nguyên tắc trung tâm của nhà nước. Quyền lực ở dạng này hay dạng khác định hình
mọi thứ. Và nó cũng sắp được biến đổi.
Công nghệ cuối cùng mang tính chính trị vì công nghệ là một dạng quyền lực. Và
có lẽ đặc điểm quan trọng nhất của làn sóng sắp tới là nó sẽ dân chủ hóa việc tiếp
cận quyền lực. Như chúng ta đã thấy ở phần 2, nó sẽ cho phép mọi người làm mọi
việc trong thế giới thực. Tôi nghĩ về nó như thế này: giống như chi phí xử lý và
phát sóng thông tin giảm mạnh trong thời đại internet tiêu dùng, chi phí để thực
sự làm điều gì đó, thực hiện hành động, thể hiện sức mạnh, sẽ giảm mạnh theo làn
sóng tiếp theo. Biết thì tốt nhưng làm thì hiệu quả hơn nhiều.
Thay vì chỉ sử dụng nội dung, bất kỳ ai cũng có thể tạo ra nội dung video,
hình ảnh và văn bản có chất lượng chuyên nghiệp. AI không chỉ giúp bạn tìm thông
tin cho bài phát biểu của phù rể; nó cũng sẽ viết bài phát biểu.
Và tất cả đều ở quy mô chưa từng thấy trước đây. Robot sẽ không chỉ sản xuất ô tô
và sắp xếp các tầng nhà kho; chúng sẽ có sẵn cho mọi người sửa chữa gara chỉ với
một chút thời gian và trí tưởng tượng. Làn sóng trước đây cho phép chúng ta sắp
xếp hoặc đọc DNA. Làn sóng sắp tới sẽ làm cho quá trình tổng hợp DNA trở nên phổ
biến.
Quyền lực hôm nay ở đâu thì nó sẽ được khuếch đại. Bất kỳ ai có mục tiêu - tức
là tất cả mọi người - sẽ nhận được sự trợ giúp rất lớn trong việc hiện thực hóa
chúng. Việc đại tu chiến lược kinh doanh, tổ chức các sự kiện xã hội cho cộng đồng
địa phương hoặc chiếm giữ lãnh thổ của kẻ thù đều trở nên dễ dàng hơn. Xây dựng một
hãng hàng không hoặc ngừng hoạt động một đội bay đều có thể đạt được nhiều hơn. Cho
dù đó là thương mại, tôn giáo, văn hóa hay quân sự, dân chủ hay độc tài, mọi động
lực có thể mà bạn có thể nghĩ đến đều có thể được tăng cường đáng kể nhờ có nguồn
điện rẻ hơn trong tầm tay.
Ngày nay, dù bạn có giàu đến đâu, bạn cũng không thể mua được một chiếc điện
thoại thông minh mạnh hơn mức mà hàng tỷ người có được.
Thành tựu phi thường này của nền văn minh thường bị bỏ qua.
Trong thập kỷ tới, việc tiếp cận ACI cũng sẽ theo xu hướng tương tự. Hàng tỷ người
đó sẽ sớm có cơ hội tiếp cận bình đẳng với luật sư, bác sĩ, chiến lược gia, nhà thiết
kế, huấn luyện viên, trợ lý điều hành, nhà đàm phán giỏi nhất, v.v. Mọi người sẽ có
một đội ngũ đẳng cấp thế giới ở bên cạnh họ và ở góc của họ.
Đây sẽ là yếu tố thúc đẩy sự giàu có và thịnh vượng nhanh nhất, nhanh nhất trong
lịch sử loài người. Nó cũng sẽ là một trong những nơi hỗn loạn nhất. Nếu mọi người
đều có khả năng tiếp cận nhiều hơn, điều đó rõ ràng cũng bao gồm cả những người muốn
gây hại. Với công nghệ phát triển nhanh hơn các biện pháp phòng thủ, những kẻ xấu,
từ các tập đoàn ma túy Mexico đến tin tặc Triều Tiên, đều bị tấn công. Dân chủ hóa
quyền truy cập nhất thiết có nghĩa là dân chủ hóa rủi ro.
Chúng ta sắp vượt qua một ngưỡng quan trọng trong lịch sử loài người. Đây là điều
mà quốc gia-dân tộc sẽ phải đối mặt trong thập kỷ tới. Trong chương này, chúng ta sẽ
xem xét một số ví dụ chính về sự khuếch đại tính mong manh bắt nguồn từ làn sóng sắp
tới.
Trước tiên, chúng ta hãy xem xét kỹ hơn rủi ro ngắn hạn này: làm thế nào những kẻ
xấu có thể thực hiện các hoạt động tấn công mới. Những cuộc tấn công như vậy có thể
gây chết người, có thể truy cập rộng rãi và tạo cơ hội cho ai đó tấn công trên quy
mô lớn mà không bị trừng phạt.

ROBOT CÓ SÚNG:
ƯU ĐIỂM CỦA TỘI PHẠM
Vào tháng 11 năm 2020, Mohsen Fakhrizadeh là nhà khoa học đứng đầu và
là trụ cột trong nỗ lực lâu dài của Iran nhằm đạt được vũ khí hạt
nhân. Yêu nước, tận tâm, giàu kinh nghiệm, ông là mục tiêu hàng đầu
của các đối thủ Iran. Nhận thức được những rủi ro, anh ta đã giữ bí
mật nơi ở và việc di chuyển của mình với sự trợ giúp từ các cơ quan
an ninh của Iran.
Lái xe trong một đoàn xe được bảo vệ nghiêm ngặt dọc con đường bụi
bặm về ngôi nhà ở nông thôn của anh gần Biển Caspian, đoàn xe của
Fakhrizadeh đột nhiên dừng lại. Xe của nhà khoa học bị trúng một loạt
đạn. Bị thương, Fakhrizadeh loạng choạng bước ra khỏi xe và bị giết bởi
loạt đạn súng máy thứ hai xuyên qua người. Các vệ sĩ của ông, thành
viên của Lực lượng Vệ binh Cách mạng Iran, cố gắng tìm hiểu chuyện gì
đang xảy ra. Kẻ bắn súng ở đâu? Một lúc sau có một vụ nổ và một chiếc
xe bán tải gần đó bốc cháy.
Tuy nhiên, chiếc xe tải trống rỗng chỉ có một khẩu súng. Không có
sát thủ trên mặt đất ngày hôm đó. Theo lời của một cuộc điều tra trên
tờ New York Times , đây là “cuộc thử nghiệm đầu tiên của một tay bắn
tỉa vi tính hóa, công nghệ cao được trang bị trí tuệ nhân tạo và nhiều
mắt camera, hoạt động qua vệ tinh và có khả năng bắn 600 viên đạn một
phút”. Được đặt trên một chiếc xe bán tải đậu ở vị trí chiến lược nhưng
có vẻ ngoài vô hại được trang bị camera, nó là một loại vũ khí robot do
đặc vụ Israel lắp ráp. Con người đã ra lệnh tấn công, nhưng chính AI
mới tự động điều chỉnh mục tiêu của súng. Chỉ mười lăm viên đạn được
bắn ra và một trong những người cấp cao và được bảo vệ cẩn mật nhất ở
Iran đã bị giết trong vòng chưa đầy một phút. Vụ nổ chỉ là một nỗ lực
thất bại nhằm che giấu bằng chứng.
Vụ ám sát Fakhrizadeh là điềm báo cho những gì sắp xảy ra.
Các robot vũ trang phức tạp hơn sẽ tiếp tục giảm bớt các rào cản đối với
bạo lực. Video về thế hệ robot mới nhất, với những cái tên như Atlas và BigDog,
rất dễ tìm thấy trên internet. Tại đây, bạn sẽ thấy những hình người chắc nịch,
có hình dáng kỳ lạ và những robot nhỏ giống chó chạy nhanh qua các chướng ngại
vật. Chúng trông mất thăng bằng một cách kỳ lạ nhưng dường như không bao giờ rơi
xuống. Chúng điều hướng những cảnh quan phức tạp bằng chuyển động kỳ lạ, những
khung hình nặng nề của chúng không bao giờ bị lật đổ. Họ thực hiện các động tác
lộn ngược, nhảy, xoay tròn và các thủ thuật. Đẩy họ qua, và họ đứng dậy một cách
bình tĩnh, không thể tránh khỏi. Và họ sẵn sàng làm đi làm lại điều đó. Nó thật ma quái.
Bây giờ hãy tưởng tượng những robot được trang bị nhận dạng khuôn mặt,
giải trình tự DNA và vũ khí tự động. Robot trong tương lai có thể không có
hình dạng của những con chó chạy trốn. Được thu nhỏ hơn nữa, chúng sẽ có
kích thước bằng một con chim hoặc một con ong, được trang bị một khẩu súng
nhỏ hoặc một lọ bệnh than. Chúng có thể sớm được tiếp cận với bất kỳ ai muốn chúng.
Việc trao quyền cho diễn viên xấu trông như thế này.
chi phí của máy bay không người lái cấp quân sự đã giảm ba bậc trong thập
kỷ qua. Đến năm 2028, 26 tỷ USD mỗi năm sẽ được chi cho máy bay không người
lái quân sự và tại thời điểm đó, nhiều chiếc có thể sẽ tự động hoàn toàn.
Việc triển khai trực tiếp máy bay không người lái tự động ngày càng trở
nên hợp lý hơn. Ví dụ: vào tháng 5 năm 2021, một đàn máy bay không người lái
AI ở Gaza đã được sử dụng để tìm kiếm, xác định và tấn công các chiến binh
Hamas. Các công ty khởi nghiệp như Anduril, Shield AI và Rebellion Defense
đã huy động được hàng trăm triệu đô la để xây dựng mạng lưới máy bay không
người lái tự động và các ứng dụng quân sự khác của AI. Các công nghệ bổ sung
như in 3-D và thông tin liên lạc di động tiên tiến sẽ giảm giá thành của máy
bay không người lái chiến thuật xuống còn vài nghìn đô la, đưa chúng đến tay
tất cả mọi người từ những người đam mê nghiệp dư, lực lượng bán quân sự cho
đến những kẻ tâm thần đơn độc.
Ngoài việc truy cập dễ dàng hơn, vũ khí được tăng cường AI sẽ tự cải
tiến theo thời gian thực. Tác động của WannaCry đã rất xa
hạn chế hơn mức có thể có. Sau khi áp dụng bản vá phần mềm, vấn đề trước mắt đã được
giải quyết. AI biến đổi kiểu tấn công này. Vũ khí mạng AI sẽ liên tục thăm dò các
mạng, tự điều chỉnh để tìm ra và khai thác điểm yếu. Các sâu máy tính hiện có tự sao
chép bằng cách sử dụng một bộ phương pháp phỏng đoán cố định được lập trình sẵn.
Nhưng điều gì sẽ xảy ra nếu bạn có một con sâu tự cải thiện bằng cách học tăng
cường, cập nhật thử nghiệm mã của nó với mỗi tương tác mạng, mỗi lần tìm ra những
cách ngày càng hiệu quả hơn để tận dụng các lỗ hổng mạng? Giống như các hệ thống như
AlphaGo học các chiến lược bất ngờ từ hàng triệu trò chơi tự chơi, các cuộc tấn công
mạng do AI hỗ trợ cũng vậy. Cho dù bạn có chơi trò chơi chiến tranh bao nhiêu đi
chăng nữa, chắc chắn sẽ có một lỗ hổng nhỏ có thể được phát hiện bởi một AI bền bỉ.
Mọi thứ từ ô tô, máy bay đến tủ lạnh và trung tâm dữ liệu đều dựa trên cơ sở mã
rộng lớn. Các AI sắp ra mắt giúp việc xác định và khai thác điểm yếu trở nên dễ dàng
hơn bao giờ hết. Họ thậm chí có thể tìm ra các biện pháp pháp lý hoặc tài chính để
gây thiệt hại cho các tập đoàn hoặc tổ chức khác, những điểm yếu tiềm ẩn trong quy
định ngân hàng hoặc các giao thức an toàn kỹ thuật. Như chuyên gia an ninh mạng
Bruce Schneier đã chỉ ra, AI có thể tiếp thu luật pháp và quy định của thế giới để
tìm ra cách khai thác, phân xử tính hợp pháp. Hãy tưởng tượng một lượng lớn tài liệu
của một công ty bị rò rỉ. Một AI hợp pháp có thể phân tích điều này dựa trên nhiều
hệ thống pháp luật, tìm ra mọi vi phạm có thể xảy ra và sau đó tấn công công ty đó
bằng nhiều vụ kiện tê liệt trên khắp thế giới cùng một lúc. AI có thể phát triển các
chiến lược giao dịch tự động được thiết kế để phá hủy vị trí của đối thủ cạnh tranh
hoặc tạo ra các chiến dịch đưa thông tin sai lệch (sẽ nói thêm về điều này trong
phần tiếp theo), tiến hành chạy đua vào ngân hàng hoặc tẩy chay sản phẩm, cho phép
đối thủ cạnh tranh lao vào và mua công ty — hoặc đơn giản là xem nó sụp đổ.
AI có khả năng khai thác không chỉ các hệ thống tài chính, pháp lý hoặc truyền
thông mà còn cả tâm lý con người, những điểm yếu và thành kiến của chúng ta, đang
trên đà phát triển. Các nhà nghiên cứu tại Meta đã tạo ra một chương trình có tên CICERO.
Nó đã trở thành một chuyên gia chơi trò chơi cờ phức tạp Ngoại giao, một trò
chơi trong đó việc hoạch định các chiến lược phức tạp, lâu dài được xây dựng
xung quanh việc lừa dối và đâm sau lưng là điều không thể thiếu. Nó cho thấy
AI có thể giúp chúng ta lập kế hoạch và cộng tác như thế nào, nhưng cũng gợi ý
về cách chúng có thể phát triển các thủ thuật tâm lý để đạt được sự tin tưởng
và gây ảnh hưởng, đọc và điều khiển cảm xúc và hành vi của chúng ta với mức độ
sâu đáng sợ, một kỹ năng hữu ích để giành chiến thắng trong Ngoại giao hoặc
vận động bầu cử và xây dựng phong trào chính trị.
Không gian cho các cuộc tấn công có thể xảy ra nhằm vào các chức năng quan trọng của
trạng thái thậm chí còn phát triển giống như tiền đề khiến AI trở nên mạnh mẽ và thú vị—
khả năng học hỏi và thích ứng—tăng cường sức mạnh cho những kẻ xấu.
trong nhiều thế kỷ, các khả năng tấn công tiên tiến, như pháo binh quy mô
lớn, pháo binh hải quân, xe tăng, tàu sân bay hoặc ICBM, ban đầu rất tốn kém
đến mức chúng vẫn là quyền quản lý của quốc gia-dân tộc. Giờ đây, chúng đang
phát triển nhanh đến mức chúng nhanh chóng sinh sôi nảy nở trong tay các
phòng thí nghiệm nghiên cứu, các công ty khởi nghiệp và những người sửa chữa
gara. Giống như hiệu ứng phát sóng một-nhiều của mạng xã hội có nghĩa là một
người có thể bất ngờ phát sóng trên toàn cầu, nên khả năng thực hiện hành
động mang tính hệ quả sâu rộng đang trở nên sẵn có cho tất cả mọi người.
Động lực mới này—nơi những kẻ xấu được khuyến khích tấn công—mở ra
các hướng tấn công mới nhờ vào bản chất dễ bị tổn thương, liên kết với
nhau của các hệ thống hiện đại: không chỉ một bệnh viện mà toàn bộ hệ
thống y tế có thể bị tấn công; không chỉ là một nhà kho mà là toàn bộ
chuỗi cung ứng. Với vũ khí tự động gây chết người, chi phí, cả về mặt
vật chất và trên hết là về mặt con người, cho việc tham chiến, tấn
công, thấp hơn bao giờ hết. Đồng thời, tất cả những điều này tạo ra
mức độ phủ nhận và mơ hồ lớn hơn, làm suy giảm tính logic của việc răn
đe. Nếu không ai có thể chắc chắn ai đã khởi xướng vụ tấn công hoặc
chính xác chuyện gì đã xảy ra thì tại sao không tiếp tục?
Khi các chủ thể phi nhà nước và xấu được trao quyền theo cách này, một
trong những đề xuất cốt lõi của nhà nước sẽ bị suy yếu: vẻ ngoài của một
chiếc ô an ninh cho công dân bị tổn hại sâu sắc. Các quy định về an toàn và
an ninh là nền tảng cơ bản của hệ thống nhà nước-quốc gia, không phải là
những tiện ích bổ sung dễ có. Nhìn chung, các quốc gia biết cách ứng phó
với các vấn đề về luật pháp và trật tự hoặc tấn công trực tiếp từ các quốc
gia thù địch. Nhưng điều này còn âm u hơn, vô định hình và bất đối xứng hơn
nhiều, làm mờ đi ranh giới về lãnh thổ và sự quy kết dễ dàng.
Làm thế nào một quốc gia có thể duy trì được niềm tin của người dân,
duy trì được món hời lớn đó nếu nó không đưa ra lời hứa cơ bản về an ninh?
Làm thế nào nó có thể đảm bảo rằng các bệnh viện sẽ tiếp tục hoạt động,
trường học vẫn mở cửa, đèn vẫn được bật - theo nghĩa đen - trên thế giới
này? Nếu nhà nước không thể bảo vệ bạn và gia đình bạn thì việc tuân thủ và
thuộc về có ý nghĩa gì? Nếu chúng ta cảm thấy rằng các yếu tố cơ bản—điện
chạy trong nhà, hệ thống giao thông đưa chúng ta đi lại, mạng lưới năng
lượng giữ ấm cho chúng ta, an ninh cá nhân hàng ngày của chúng ta—đang tan
vỡ và chúng ta hoặc chính phủ không thể làm gì, thì một quỹ sẽ của hệ thống
bị sứt mẻ. Nếu nhà nước bắt đầu bằng những hình thức chiến tranh mới, có lẽ
nó sẽ kết thúc theo cách tương tự.
Trong suốt lịch sử, công nghệ đã tạo ra một vũ điệu tinh tế của lợi thế
tấn công và phòng thủ, con lắc lắc lư giữa hai bên nhưng có một sự cân bằng
gần như được giữ vững: đối với mỗi loại đạn hoặc vũ khí mạng mới, một biện
pháp đối phó mạnh mẽ đã nhanh chóng xuất hiện. Đại bác có thể làm xói mòn
tường thành của lâu đài nhưng cũng có thể tiêu diệt đội quân xâm lược. Giờ
đây, những công nghệ mạnh mẽ, bất đối xứng, có thể sử dụng đa mục đích chắc
chắn sẽ lọt vào tay những kẻ muốn phá hoại nhà nước. Trong khi các hoạt
động phòng thủ sẽ được tăng cường theo thời gian, thì bản chất của bốn đặc
điểm này lại thiên về tấn công: sự phát triển sức mạnh này quá rộng, nhanh
và cởi mở. Một thuật toán có ý nghĩa thay đổi thế giới có thể được lưu trữ
trên máy tính xách tay; chẳng bao lâu nữa nó thậm chí sẽ không còn yêu cầu
loại cơ sở hạ tầng rộng lớn, có thể điều chỉnh được như làn sóng cuối cùng
và Internet. Không giống như mũi tên hay thậm chí là tên lửa siêu thanh, AI
và các tác nhân sinh học sẽ phát triển với chi phí rẻ hơn, nhanh hơn và hơn thế nữa
tự chủ hơn bất kỳ công nghệ nào chúng tôi từng thấy. Do đó, nếu không có
một loạt biện pháp can thiệp mạnh mẽ để thay đổi tiến trình hiện tại, hàng
triệu người sẽ có quyền tiếp cận những khả năng này chỉ sau vài năm nữa.
Đơn giản là không thể duy trì lợi thế chiến lược mang tính quyết định,
vô thời hạn trên một phạm vi rộng các công nghệ sử dụng chung như vậy.
Cuối cùng, sự cân bằng có thể được khôi phục, nhưng không phải trước khi một
làn sóng lực gây mất ổn định vô cùng lớn được giải phóng. Và như chúng ta đã
thấy, bản chất của mối đe dọa còn lan rộng hơn nhiều so với các hình thức tấn
công vật lý thẳng thừng. Thông tin và truyền thông cùng nhau là một vectơ rủi
ro ngày càng leo thang, một yếu tố khuếch đại tính mong manh mới nổi khác cần
được chú ý.
Chào mừng đến với kỷ nguyên deepfake.
MÁY THÔNG TIN SAI
Trong cuộc bầu cử địa phương năm 2020 ở Ấn Độ, người ta quay phim chủ tịch Đảng
Bharatiya Janata Delhi, Manoj Tiwari, đang phát biểu trong chiến dịch tranh cử—
bằng cả tiếng Anh và tiếng Hindi địa phương. Cả hai đều nhìn và nghe có vẻ chân
thực một cách thuyết phục. Trong video, anh ta tiếp tục tấn công, cáo buộc
người đứng đầu một đảng đối thủ đã “lừa dối chúng tôi”. Nhưng phiên bản bằng
phương ngữ địa phương là một bản deepfake, một loại phương tiện tổng hợp mới hỗ
trợ AI. Được sản xuất bởi một công ty truyền thông chính trị, nó giúp ứng cử
viên tiếp xúc với các khu vực bầu cử mới, khó tiếp cận. Thiếu nhận thức về diễn
ngôn xung quanh các phương tiện truyền thông giả mạo, nhiều người cho rằng đó
là sự thật. Công ty đằng sau deepfake lập luận rằng đây là cách sử dụng công
nghệ “tích cực”, nhưng đối với bất kỳ người quan sát tỉnh táo nào, sự việc này
đã báo trước một thời đại mới đầy nguy hiểm trong giao tiếp chính trị. Trong
một vụ việc khác được công bố rộng rãi, một đoạn clip về Nancy Pelosi đã được
chỉnh sửa lại để khiến bà trông ốm yếu và suy nhược rồi sau đó được lan truyền
rộng rãi trên mạng xã hội.
Hãy tự hỏi bản thân, điều gì sẽ xảy ra khi bất kỳ ai có khả năng tạo và
phát sóng tài liệu với mức độ chân thực đáng kinh ngạc?
Những ví dụ này xảy ra trước khi các phương tiện tạo ra các bản deepfake gần
như hoàn hảo—dù là văn bản, hình ảnh, video hay âm thanh—trở nên dễ dàng như
viết một truy vấn vào Google. Như chúng ta đã thấy trong chương 4, các mô hình
ngôn ngữ lớn hiện cho thấy kết quả đáng kinh ngạc trong việc tạo ra phương tiện
tổng hợp. Một thế giới của deepfake không thể phân biệt được với các phương tiện
truyền thông thông thường là ở đây. Những hàng giả này sẽ tốt đến mức lý trí của
chúng ta sẽ khó chấp nhận rằng chúng không có thật.
Deepfakes đang lan truyền nhanh chóng. Nếu bạn muốn xem cảnh Tom Cruise giả
vờ đầy thuyết phục khi chuẩn bị vật lộn với một con cá sấu, thì bạn có thể.
Ngày càng có nhiều người bị bắt chước vì dữ liệu đào tạo cần thiết chỉ còn là
một số ít ví dụ. Nó đã xảy ra rồi. Một ngân hàng ở Hồng Kông đã chuyển hàng
triệu đô la cho những kẻ lừa đảo vào năm 2021, sau khi một trong những khách
hàng của họ bị mạo danh bởi một deepfake. Nghe giống hệt khách hàng thật, những
kẻ lừa đảo đã gọi điện cho giám đốc ngân hàng và giải thích cách công ty cần
chuyển tiền để mua lại. Tất cả các tài liệu dường như đã được kiểm tra, giọng
nói và nhân vật đều quen thuộc hoàn hảo nên người quản lý đã bắt đầu chuyển
khoản.
Bất cứ ai có động cơ gieo rắc sự bất ổn giờ đây đều có thời gian dễ dàng hơn.
Giả sử ba ngày trước cuộc bầu cử, tổng thống bị camera ghi lại bằng lời nói tục
tĩu phân biệt chủng tộc. Văn phòng báo chí chiến dịch tranh cử kịch liệt phủ
nhận điều đó, nhưng mọi người đều biết những gì họ đã thấy. Sự phẫn nộ sôi sục
khắp đất nước. Thăm dò mũi lặn. Trạng thái xoay chuyển đột ngột về phía đối thủ,
người chiến thắng, trái với mọi mong đợi. Một chính quyền mới chịu trách nhiệm.
Nhưng video này là một video giả mạo sâu, phức tạp đến mức nó có thể vượt qua cả
những mạng lưới thần kinh phát hiện giả mạo tốt nhất.
Mối đe dọa ở đây không nằm ở những trường hợp cực đoan mà ở những tình huống
tinh tế, nhiều sắc thái và rất hợp lý bị phóng đại và bóp méo. Đó không phải là
việc tổng thống xông vào trường học la hét những điều vô nghĩa trong khi ném lựu
đạn; đó là việc tổng thống từ chức nói rằng ông không có lựa chọn nào khác ngoài
việc đưa ra một bộ luật khẩn cấp hoặc đưa ra lại dự thảo. Đó không phải là
Hollywood
bắn pháo hoa; đó là đoạn phim được cho là camera giám sát ghi lại cảnh một nhóm cảnh sát
da trắng bị ghi hình đánh đập một người đàn ông da đen đến chết.
Những bài giảng của nhà truyền giáo cực đoan Anwar al-Awlaki đã truyền cảm hứng cho
những kẻ đánh bom cuộc thi Marathon ở Boston, những kẻ tấn công tòa soạn Charlie Hebdo ở
Paris và kẻ xả súng đã giết chết 49 người tại một hộp đêm ở Orlando.
Tuy nhiên, al-Awlaki đã chết vào năm 2011, công dân Hoa Kỳ đầu tiên bị giết bởi một cuộc
tấn công bằng máy bay không người lái của Hoa Kỳ, trước bất kỳ sự kiện nào trong số này.
Tuy nhiên, các thông điệp cực đoan hóa của hắn vẫn còn trên YouTube cho đến năm 2017. Giả
sử rằng việc sử dụng deepfake các video mới của al-Awlaki có thể được “khai quật”, mỗi
video chỉ huy các cuộc tấn công có mục tiêu tiếp theo bằng những lời hùng biện chính xác.
Không phải ai cũng mua nó, nhưng những ai muốn tin sẽ thấy nó hoàn toàn hấp dẫn.
Những video này sẽ sớm có tính tương tác đầy đủ và đáng tin cậy. Bạn đang nói chuyện
trực tiếp với anh ấy. Anh ấy biết bạn và thích nghi với phương ngữ và phong cách của bạn,
lợi dụng lịch sử của bạn, những bất bình cá nhân của bạn, sự bắt nạt của bạn ở trường,
những bậc cha mẹ phương Tây tồi tệ, vô đạo đức của bạn. Đây không phải là thông tin sai
lệch như vụ đánh bom trải thảm; đó là thông tin sai lệch như một cuộc tấn công phẫu thuật.
Các cuộc tấn công lừa đảo chống lại các chính trị gia hoặc doanh nhân, thông tin sai
lệch nhằm mục đích gây gián đoạn hoặc thao túng thị trường tài chính, các phương tiện
truyền thông được thiết kế để đầu độc các đường đứt gãy chính như chia rẽ giáo phái hoặc
chủng tộc, thậm chí cả những trò lừa đảo ở cấp độ thấp—niềm tin bị tổn hại và sự mong manh
lại bị khuếch đại.
Cuối cùng, lịch sử tổng hợp đầy đủ và phong phú của các sự kiện dường như có thật sẽ
dễ dàng được tạo ra. Mỗi công dân sẽ không có thời gian hoặc công cụ để xác minh một phần
nội dung sắp tới.
Hàng giả sẽ dễ dàng vượt qua các cuộc kiểm tra phức tạp, chưa nói đến bài kiểm tra mùi kéo
dài hai giây.
TẤN CÔNG THÔNG TIN ĐƯỢC NHÀ NƯỚC TÀI TRỢ

Vào những năm 1980, Liên Xô đã tài trợ cho các chiến dịch thông tin sai lệch cho
rằng virus AIDS là kết quả của một chương trình vũ khí sinh học của Hoa Kỳ. Nhiều
năm sau, một số cộng đồng vẫn đang phải đối mặt với sự ngờ vực và hậu quả. Trong
khi đó, các chiến dịch vẫn chưa dừng lại.
Theo Facebook, các đặc vụ Nga đã tạo ra không dưới 80 nghìn nội dung hữu cơ tiếp
cận 126 triệu người Mỹ trên nền tảng của họ trong cuộc bầu cử năm 2016.
Các công cụ kỹ thuật số được tăng cường AI sẽ làm trầm trọng thêm các hoạt
động thông tin như thế này, can thiệp vào các cuộc bầu cử, lợi dụng sự chia rẽ
xã hội và tạo ra các chiến dịch lướt sóng phức tạp để gieo rắc hỗn loạn.
Thật không may, nó không chỉ ở Nga. Hơn 70 quốc gia đã bị phát hiện đang thực
hiện các chiến dịch đưa thông tin sai lệch. Trung Quốc đang nhanh chóng bắt kịp
Nga; những người khác từ Thổ Nhĩ Kỳ đến Iran đang phát triển kỹ năng của họ. (CIA
cũng không lạ gì với các hoạt động thông tin.)
Đầu đại dịch COVID-19, một cơn bão thông tin sai lệch đã gây ra hậu quả chết
người. Một nghiên cứu của Carnegie Mellon đã phân tích hơn 200 triệu tweet thảo
luận về COVID-19 ở thời điểm cao điểm của đợt khóa đầu tiên. 82% người dùng có
ảnh hưởng ủng hộ việc “mở cửa lại nước Mỹ” là robot. Đây là một “cỗ máy tuyên
truyền” có mục tiêu, rất có thể là của Nga, được thiết kế để tăng cường cuộc
khủng hoảng sức khỏe cộng đồng tồi tệ nhất trong một thế kỷ.
Deepfakes tự động hóa các cuộc tấn công thông tin này. Cho đến nay, các chiến
dịch thông tin sai lệch hiệu quả vẫn đòi hỏi nhiều công sức. Mặc dù bot và hàng
giả không khó tạo ra nhưng hầu hết đều có chất lượng thấp, dễ nhận dạng và chỉ
có hiệu quả ở mức độ vừa phải trong việc thực sự thay đổi hành vi của mục tiêu.
Phương tiện tổng hợp chất lượng cao thay đổi phương trình này. Không phải
tất cả các quốc gia hiện đều có đủ kinh phí để xây dựng các chương trình thông
tin sai lệch khổng lồ, với các văn phòng chuyên trách và đội ngũ nhân viên được
đào tạo bài bản, nhưng điều đó sẽ ít trở ngại hơn khi tài liệu có độ chính xác
cao có thể được tạo ra chỉ bằng một nút bấm. Phần lớn sự hỗn loạn sắp tới sẽ
không phải là ngẫu nhiên. Nó sẽ đến khi các chiến dịch thông tin sai lệch hiện có đang diễn ra
được tăng cường, mở rộng và phân cấp cho nhiều nhóm tác nhân có động lực.
Sự gia tăng của các phương tiện truyền thông tổng hợp ở quy mô lớn và chi
phí tối thiểu sẽ khuếch đại cả thông tin sai lệch (thông tin độc hại và cố ý
gây hiểu lầm) và thông tin sai lệch (sự ô nhiễm không gian thông tin trên
diện rộng và vô tình hơn) cùng một lúc. Đưa ra một “Infocalypse”, thời điểm
mà xã hội không còn có thể quản lý được dòng tài liệu sơ sài, nơi hệ sinh
thái thông tin đặt nền tảng cho kiến thức, niềm tin và sự gắn kết xã hội,
chất keo gắn kết xã hội lại với nhau, tan rã. Theo lời của một báo cáo của
Viện Brookings, các phương tiện truyền thông tổng hợp hoàn hảo, phổ biến
khắp nơi có nghĩa là “bóp méo diễn ngôn dân chủ; thao túng bầu cử; làm xói
mòn niềm tin vào các thể chế; báo chí suy yếu; làm trầm trọng thêm sự chia
rẽ xã hội; phá hoại an toàn công cộng; và gây ra thiệt hại khó khắc phục đối
với danh tiếng của những cá nhân nổi bật, bao gồm cả các quan chức được bầu
và các ứng cử viên cho chức vụ.”
Tuy nhiên, không phải tất cả các yếu tố gây căng thẳng và tác hại đều đến từ những tác nhân xấu.
Một số đến từ ý định tốt nhất. Sự gia tăng tính mong manh là ngẫu nhiên cũng
như có chủ ý.
PHÒNG THÍ NGHIỆM RÒ RỈ VÀ
BẤT ỔN NGOẠI Ý
Tại một trong những phòng thí nghiệm an toàn nhất thế giới, một nhóm các nhà
nghiên cứu đang thử nghiệm một loại mầm bệnh chết người. Không ai có thể
chắc chắn điều gì xảy ra tiếp theo. Ngay cả với lợi ích của nhận thức muộn
màng, thông tin chi tiết về nghiên cứu vẫn rất ít. Điều chắc chắn là, tại
một đất nước nổi tiếng về bí mật và sự kiểm soát của chính phủ, một căn bệnh
kỳ lạ mới bắt đầu xuất hiện.
Chẳng bao lâu nó đã được tìm thấy trên khắp thế giới, ở Anh, Hoa Kỳ và
hơn thế nữa. Điều kỳ lạ là đây dường như không phải là một căn bệnh hoàn
toàn tự nhiên. Một số đặc điểm đã gây cảnh báo trong cộng đồng khoa học và
cho rằng có thứ gì đó ở phòng thí nghiệm đã biến mất.

sai lầm khủng khiếp rằng đây không phải là một sự kiện tự nhiên. Chẳng mấy chốc số người chết
bắt đầu tăng lên. Rốt cuộc thì phòng thí nghiệm siêu an toàn đó trông không được an toàn cho
lắm.
Nếu đây có vẻ là một câu chuyện quen thuộc thì có lẽ đó không phải là câu
chuyện bạn đang nghĩ đến. Đó là năm 1977 và một trận dịch cúm được gọi là cúm Nga.
Được phát hiện lần đầu tiên ở Trung Quốc, ngay sau đó nó được phát hiện ở Liên
Xô, lây lan từ đó và được cho là đã giết chết tới 700.000 người. Điều bất thường
về chủng cúm H1N1 là nó rất giống với chủng cúm lưu hành vào những năm 1950. Căn
bệnh này ảnh hưởng nặng nề nhất đến những người trẻ tuổi, một dấu hiệu có thể cho
thấy họ có khả năng miễn dịch yếu hơn những người xung quanh vài thập kỷ trước đó.
Có rất nhiều giả thuyết về những gì đã xảy ra. Có thứ gì đó đã thoát khỏi lớp
băng vĩnh cửu? Nó có phải là một phần của chương trình vũ khí sinh học sâu rộng
và bí ẩn của Nga không? Tuy nhiên, cho đến nay, lời giải thích tốt nhất là rò rỉ
trong phòng thí nghiệm. Một phiên bản của loại virus trước đó có thể bằng cách
nào đó đã trốn thoát trong quá trình thử nghiệm vắc xin trong phòng thí nghiệm.
Bản thân dịch bệnh là do nghiên cứu có ý nghĩa nhằm ngăn chặn dịch bệnh.
Các phòng thí nghiệm sinh học phải tuân theo các tiêu chuẩn toàn cầu để ngăn
chặn tai nạn. An toàn nhất được gọi là phòng thí nghiệm an toàn sinh học cấp 4
(BSL-4). Chúng đại diện cho các tiêu chuẩn ngăn chặn cao nhất khi làm việc với
các vật liệu gây bệnh nguy hiểm nhất. Cơ sở vật chất được niêm phong hoàn toàn.
Lối vào bằng khóa không khí. Mọi thứ ra vào đều được kiểm tra kỹ lưỡng. Mọi người
đều mặc một bộ đồ điều áp.
Bất cứ ai rời đi cần phải tắm. Tất cả các vật liệu đều được xử lý theo các quy
trình nghiêm ngặt nhất. Bất kỳ loại cạnh sắc nào có khả năng làm thủng găng tay
hoặc quần áo đều bị cấm. Các nhà nghiên cứu tại phòng thí nghiệm BSL-4 được đào
tạo khá bài bản để tạo ra môi trường an toàn sinh học nhất mà nhân loại từng thấy.
Thế nhưng tai nạn, rò rỉ vẫn xảy ra. Dịch cúm Nga năm 1977 chỉ là một ví dụ.
Chỉ hai năm sau, bào tử bệnh than vô tình được phát tán từ một cơ sở vũ khí sinh
học bí mật của Liên Xô, tạo ra một vệt bệnh dài 50 km khiến ít nhất 66 người thiệt
mạng.
Năm 2007, một đường ống bị rò rỉ tại Viện Pirbright của Vương quốc Anh, bao
gồm các phòng thí nghiệm BSL-4, đã gây ra một đợt bùng phát bệnh lở mồm long móng
gây thiệt hại 147 triệu bảng Anh. Vào năm 2021, một nhà nghiên cứu của công ty
dược phẩm gần Philadelphia đã để các lọ thuốc đậu mùa trong một tủ đông không có
nhãn hiệu, không an toàn. May mắn thay, họ đã được tìm thấy bởi một người đang dọn tủ đông.
Người này may mắn được đeo khẩu trang và găng tay. Nếu nó thoát ra ngoài thì hậu
quả sẽ rất thảm khốc. Trước khi bị loại trừ, bệnh đậu mùa đã giết chết khoảng 300
đến 500 triệu người chỉ trong thế kỷ 20, với tỷ lệ lây lan tương đương với các
chủng COVID-19 dễ lây lan hơn, nhưng có tỷ lệ tử vong cao gấp 30 lần so với COVID.
SARS được cho là được giữ trong điều kiện BSL-3, nhưng nó đã thoát khỏi các
phòng thí nghiệm virus học ở Singapore, Đài Loan và Trung Quốc. Khá khó tin là nó
đã trốn thoát bốn lần khỏi cùng một phòng thí nghiệm ở Bắc Kinh.
Những lỗi lầm đó đều quá con người và tầm thường. Trường hợp ở Singapore là do một
sinh viên tốt nghiệp không biết về sự hiện diện của SARS.
Ở Đài Loan, một nhà khoa học nghiên cứu đã xử lý sai chất thải nguy hại sinh học.
Tại Bắc Kinh, vụ rò rỉ được cho là do quá trình vô hiệu hóa virus kém và xử lý kém
trong các phòng thí nghiệm không an toàn sinh học. Và tất cả những điều đó còn
chưa kể đến Vũ Hán, nơi có phòng thí nghiệm BSL-4 lớn nhất thế giới và là trung
tâm nghiên cứu virus Corona.
Theo Chỉ số An ninh Y tế Toàn cầu, ngay cả khi số lượng phòng thí nghiệm BSL-4
bùng nổ, chỉ 1/4 trong số đó đạt điểm cao về an toàn.
Từ năm 1975 đến năm 2016, các nhà nghiên cứu đã lập danh mục ít nhất 71 trường hợp
phơi nhiễm cố ý hoặc vô tình với các mầm bệnh có khả năng lây nhiễm và độc hại
cao. Hầu hết đều là những tai nạn nhỏ mà ngay cả người được đào tạo bài bản nhất
đôi khi cũng chắc chắn mắc phải - một cú trượt kim, một lọ thuốc bị đổ, một thí
nghiệm được chuẩn bị với một sai sót nhỏ. Bức tranh của chúng ta gần như chắc chắn
là không đầy đủ. Rất ít nhà nghiên cứu báo cáo tai nạn một cách công khai hoặc kịp
thời. Một cuộc khảo sát với các quan chức an toàn sinh học cho thấy hầu hết chưa
bao giờ báo cáo các vụ tai nạn bên ngoài tổ chức của họ. Một đánh giá rủi ro của
Hoa Kỳ từ năm 2014 ước tính rằng trong hơn một thập kỷ, nguy cơ
về “một vụ rò rỉ lớn trong phòng thí nghiệm” trên mười phòng thí nghiệm là 91%;
nguy cơ xảy ra đại dịch là 27%.
Không có gì nên thoát ra ngoài. Tuy nhiên, mầm bệnh vẫn xảy ra, hết lần này đến lần khác.
Mặc dù là một trong những nơi khó khăn nhất nhưng các giao thức, công nghệ và
quy định để ngăn chặn đều thất bại. Một pipet lắc.
Một mảnh tấm nhựa bị thủng. Một giọt dung dịch đổ lên giày. Đây là những thất
bại hữu hình của việc ngăn chặn. Tình cờ.
Ngẫu nhiên. Xảy ra một cách đều đặn, nghiệt ngã, không thể tránh khỏi. Tuy
nhiên, trong thời đại của sự sống tổng hợp, nó đưa đến khả năng xảy ra tai nạn
có thể vừa là một yếu tố gây căng thẳng to lớn vừa là điều mà chúng ta sẽ quay
lại ở phần sau trong phần 3—thảm họa.
một số lĩnh vực sinh học gây tranh cãi như nghiên cứu đạt được chức năng (GOF).
Nói một cách đơn giản, các thí nghiệm đạt được chức năng có chủ ý tạo ra các
mầm bệnh để gây chết người hoặc lây nhiễm nhiều hơn, hoặc cả hai. Trong tự
nhiên, virus thường đánh đổi khả năng gây chết người để lấy khả năng lây truyền.
Virus càng dễ lây truyền thì khả năng gây chết người của nó càng ít. Nhưng
không có lý do tuyệt đối nào cho việc này phải như vậy. Một cách để hiểu điều
đó có thể xảy ra như thế nào — tức là làm thế nào vi rút có thể đồng thời trở
nên nguy hiểm hơn và dễ lây truyền hơn — và cách chúng ta có thể chống lại điều
đó là biến nó thành hiện thực.
Đó là lúc nghiên cứu về lợi ích chức năng xuất hiện. Các nhà nghiên cứu
điều tra thời gian ủ bệnh hoặc cách chúng trốn tránh tình trạng kháng vắc xin
hoặc có thể làm thế nào chúng có thể lây lan mà không có triệu chứng trong quần
thể. Công việc như thế này đã được thực hiện đối với các bệnh bao gồm Ebola,
cúm như H1N1 và sởi.
Những nỗ lực nghiên cứu như vậy nhìn chung là đáng tin cậy và có mục đích tốt.
Nghiên cứu bệnh cúm gia cầm ở Hà Lan và Hoa Kỳ khoảng một thập kỷ trước là một
ví dụ điển hình. Căn bệnh này có tỷ lệ tử vong cao đến kinh ngạc nhưng may mắn
là rất khó mắc phải. Các nhà nghiên cứu muốn hiểu bức tranh đó có thể thay đổi
như thế nào, điều này

căn bệnh này có thể biến thành một dạng dễ lây truyền hơn và sử dụng chồn sương để xem điều
này có thể xảy ra như thế nào. Nói cách khác, về nguyên tắc, họ đã khiến căn bệnh chết người
trở nên dễ mắc hơn.
Tuy nhiên, không cần phải có trí tưởng tượng phong phú mới có thể hình dung được nghiên
cứu đó có thể sai lầm như thế nào. Một số người cảm thấy việc cố tình thiết kế hoặc phát triển
các loại virus như thế này, bao gồm cả tôi, giống như chơi đùa với bộ kích hoạt hạt nhân.
Có thể nói, nghiên cứu về mức tăng chức năng đang gây tranh cãi. Trong một thời gian, các
cơ quan tài trợ của Hoa Kỳ đã áp đặt lệnh cấm tài trợ cho nó. Trong một thất bại kinh điển
trong việc ngăn chặn, công việc như vậy đã được tiếp tục vào năm 2019. Ít nhất có một số dấu
hiệu cho thấy Covid-19 đã bị biến đổi gen và ngày càng có nhiều bằng chứng (tình huống), từ hồ
sơ theo dõi của Viện Vũ Hán cho đến sinh học phân tử của virus. chính nó, cho thấy rò rỉ trong
phòng thí nghiệm có thể là nguồn gốc của đại dịch.
Cả FBI và Bộ Năng lượng Hoa Kỳ đều tin rằng đây là trường hợp, còn CIA thì chưa quyết
định. Không giống như những đợt bùng phát trước đây, không có biện pháp chắc chắn nào về việc
lây truyền bệnh từ động vật sang người. Điều hoàn toàn hợp lý là nghiên cứu sinh học đã giết
chết hàng triệu người, khiến xã hội trên toàn thế giới rơi vào tình trạng bế tắc và tiêu tốn
hàng nghìn tỷ đô la. Vào cuối năm 2022, một nghiên cứu của NIH tại Đại học Boston đã kết hợp
chủng COVID ban đầu, nguy hiểm hơn với protein tăng đột biến của biến thể omicron dễ lây truyền
hơn. Nhiều người cảm thấy nghiên cứu lẽ ra không nên tiến hành, nhưng nó đã được tài trợ bằng
tiền công.
Đây không phải là chuyện kẻ xấu sử dụng công nghệ làm vũ khí; đây là về những hậu quả
không lường trước được từ những người tốt muốn cải thiện kết quả sức khỏe. Nó nói về điều gì
sẽ xảy ra khi các công cụ mạnh mẽ sinh sôi nảy nở, những sai lầm nào mắc phải, “hiệu ứng trả
thù” nào xảy ra, tình trạng lộn xộn ngẫu nhiên, không lường trước được gây ra do sự va chạm
của công nghệ với thực tế. Ngoài bảng vẽ, ngoài lý thuyết, vấn đề trọng tâm của công nghệ không
được kiểm soát đó vẫn đúng ngay cả với những ý định tốt nhất.
Nghiên cứu của GOF nhằm mục đích giữ an toàn cho mọi người. Tuy nhiên, nó chắc chắn sẽ xảy
ra trong một thế giới đầy khiếm khuyết, nơi các phòng thí nghiệm bị rò rỉ, nơi xảy ra đại dịch.
Bất kể điều gì đã xảy ra ở Vũ Hán, vẫn rất có lý khi những nghiên cứu như vậy
về virus Corona đã diễn ra và bị rò rỉ.

Khó có thể bỏ qua hồ sơ lịch sử về rò rỉ phòng thí nghiệm.
nghiên cứu đạt được chức năng và rò rỉ trong phòng thí nghiệm chỉ là hai ví
dụ đặc biệt rõ ràng về việc làn sóng sắp tới sẽ tạo ra vô số hiệu ứng trả
thù và các chế độ thất bại vô tình như thế nào. Nếu mọi phòng thí nghiệm
nửa năng lực hoặc thậm chí là những hacker sinh học ngẫu nhiên đều có thể
bắt tay vào nghiên cứu này thì thảm kịch không thể bị trì hoãn vô thời hạn.
Chính loại kịch bản này đã được tôi vạch ra trong buổi hội thảo mà tôi đã
đề cập ở chương 1.
Khi sức mạnh và sự lan rộng của bất kỳ công nghệ nào tăng lên thì các
phương thức sai sót của nó cũng tăng theo. Nếu một chiếc máy bay rơi, đó
là một thảm kịch khủng khiếp. Nhưng nếu cả một đội máy bay rơi thì điều đó
còn đáng sợ hơn nhiều. Xin nhắc lại: những rủi ro này không phải là tác
hại ác ý; chúng đến từ việc đơn giản là vận hành dựa trên những công nghệ
tiên tiến nhất trong lịch sử được áp dụng rộng rãi trong các hệ thống xã
hội cốt lõi. Một vụ rò rỉ trong phòng thí nghiệm chỉ là một ví dụ điển
hình về những hậu quả không lường trước được, cốt lõi của vấn đề ngăn
chặn, một làn sóng tương đương với sự tan chảy của lò phản ứng hoặc đầu
đạn bị mất. Những tai nạn như thế này tạo ra một áp lực khó lường khác,
một vết nứt vỡ vụn khác trong hệ thống.
Tuy nhiên, các yếu tố gây căng thẳng cũng có thể là các sự kiện ít rời rạc hơn,
ít cuộc tấn công của robot, rò rỉ trong phòng thí nghiệm hoặc video deepfake và
hơn thế nữa là quá trình phá hoại nền tảng diễn ra chậm và lan tỏa. Hãy xem xét
rằng trong suốt lịch sử, các công cụ và công nghệ đã được thiết kế để giúp chúng
ta làm được nhiều việc hơn với ít nguồn lực hơn. Mỗi trường hợp riêng lẻ hầu như
không có giá trị gì. Nhưng điều gì sẽ xảy ra nếu tác dụng phụ cuối cùng của những
hiệu quả gộp này là con người không cần thiết phải làm nhiều việc nữa?
CUỘC TRANH LUẬN TỰ ĐỘNG HÓA

Trong những năm kể từ khi tôi đồng sáng lập DeepMind, không có cuộc tranh luận nào
về chính sách AI được đưa ra nhiều thời lượng phát sóng hơn tương lai của công việc—
đến mức quá bão hòa.
Đây là luận án gốc. Trong quá khứ, các công nghệ mới khiến con người mất việc
làm, tạo ra hiện tượng mà nhà kinh tế học John Maynard Keynes gọi là “thất nghiệp
do công nghệ”. Theo quan điểm của Keynes, đây là một điều tốt, khi năng suất tăng
lên sẽ giải phóng thời gian cho những đổi mới và giải trí hơn nữa. Có vô số ví dụ về
sự dịch chuyển liên quan đến công nghệ. Sự ra đời của máy dệt điện đã khiến những
người thợ dệt kiểu cũ bị phá sản; ô tô có nghĩa là các nhà sản xuất xe ngựa và
chuồng ngựa không còn cần thiết nữa; các nhà máy sản xuất bóng đèn hoạt động rất tốt
khi các nhà sản xuất nến phá sản.
Nói rộng ra, khi công nghệ phá hủy các công việc và ngành công nghiệp cũ, nó
cũng tạo ra những công việc và ngành mới. Theo thời gian, những công việc mới này
có xu hướng hướng tới vai trò của ngành dịch vụ và công việc văn phòng dựa trên
nhận thức. Khi các nhà máy ở Vành đai rỉ sét đóng cửa, nhu cầu về luật sư, nhà thiết
kế và những người có ảnh hưởng trên mạng xã hội bùng nổ. Ít nhất cho đến nay, về mặt
kinh tế, các công nghệ mới cuối cùng vẫn chưa thay thế được lao động; về tổng thể
họ đã bổ sung cho nó.
Nhưng điều gì sẽ xảy ra nếu các hệ thống thay thế việc làm mới tự mình mở rộng
các bậc thang về khả năng nhận thức của con người, khiến lao động không còn nơi nào
mới để chuyển hướng? Nếu làn sóng sắp tới thực sự có tính tổng quát và phạm vi rộng
như nó thể hiện thì con người sẽ cạnh tranh như thế nào? Điều gì sẽ xảy ra nếu phần
lớn các nhiệm vụ văn phòng có thể được AI thực hiện hiệu quả hơn? Ở một số khu vực
con người vẫn sẽ “tốt hơn” máy móc. Tôi từ lâu đã lập luận rằng đây là kịch bản có
nhiều khả năng xảy ra hơn. Với sự xuất hiện của thế hệ mô hình ngôn ngữ lớn mới
nhất, giờ đây tôi tin chắc hơn bao giờ hết rằng đây chính là cách mọi thứ sẽ diễn ra.
Những công cụ này sẽ chỉ tạm thời tăng cường trí thông minh của con người.
Chúng sẽ làm cho chúng ta thông minh hơn và hiệu quả hơn trong một thời gian, đồng
thời sẽ tạo ra mức tăng trưởng kinh tế khổng lồ, nhưng chúng
về cơ bản là thay thế lao động. Cuối cùng, họ sẽ thực hiện công việc nhận
thức hiệu quả hơn và rẻ hơn nhiều người làm việc trong lĩnh vực hành chính,
nhập dữ liệu, dịch vụ khách hàng (bao gồm gọi và nhận cuộc gọi điện thoại),
viết email, soạn thảo tóm tắt, dịch tài liệu, tạo nội dung, viết quảng cáo,
v.v. Trước sự dồi dào của những thứ tương đương với chi phí cực thấp, ngày
tháng của loại “lao động chân tay mang tính nhận thức” này đã được đánh số.
Bây giờ chúng ta mới bắt đầu thấy được tác động của làn sóng mới này.
Phân tích ban đầu về ChatGPT cho thấy nó tăng năng suất của “các chuyên gia
có trình độ đại học cấp trung” lên 40% trong nhiều nhiệm vụ. Điều đó có thể
ảnh hưởng đến quyết định tuyển dụng: một nghiên cứu của McKinsey ước tính
rằng hơn một nửa số công việc có thể được tự động hóa bởi máy móc trong bảy
năm tới, trong khi 52 triệu người Mỹ làm việc ở những vị trí có “mức độ tiếp
xúc trung bình với tự động hóa”. ” vào năm 2030.
Các nhà kinh tế Daron Acemoglu và Pascual Restrepo ước tính rằng robot
khiến lương của công nhân địa phương giảm xuống. Với mỗi robot bổ sung trên
một nghìn công nhân, tỷ lệ việc làm trên dân số sẽ giảm và do đó tiền lương
cũng giảm.
Ngày nay, các thuật toán thực hiện phần lớn các giao dịch cổ phiếu và ngày
càng hoạt động rộng khắp trong các tổ chức tài chính, tuy nhiên, ngay cả khi
Phố Wall bùng nổ, nó vẫn sa thải việc làm khi công nghệ lấn chiếm ngày càng
nhiều nhiệm vụ.
Nhiều người vẫn không bị thuyết phục. Các nhà kinh tế như David Autor cho
rằng công nghệ mới luôn làm tăng thu nhập, tạo ra nhu cầu về lao động mới.
Công nghệ làm cho các công ty hoạt động hiệu quả hơn, nó tạo ra nhiều tiền
hơn, sau đó chảy ngược vào nền kinh tế. Nói một cách đơn giản, nhu cầu là
không thể đáp ứng được, và nhu cầu này, được thúc đẩy bởi sự giàu có của công
nghệ đã tạo ra, sẽ tạo ra những công việc mới đòi hỏi lao động của con người.
Suy cho cùng, những người hoài nghi cho rằng, 10 năm thành công của deep
learning vẫn chưa tạo ra một cuộc khủng hoảng tự động hóa việc làm. Một số
người cho rằng việc dựa vào nỗi sợ hãi đó chỉ là sự lặp lại của sai lầm cũ
về “một khối lao động”, tuyên bố sai lầm rằng chỉ có một lượng công việc nhất định phải làm
xung quanh. Thay vào đó, tương lai trông giống như hàng tỷ người đang làm những
công việc cao cấp vẫn chưa được hình dung tới.
Tôi tin rằng tầm nhìn màu hồng này sẽ không thể thực hiện được trong vài
thập kỷ tới; tự động hóa rõ ràng là một bộ khuếch đại dễ vỡ khác. Như chúng ta
đã thấy trong chương 4, tốc độ cải thiện của AI vượt xa cấp số nhân và dường
như không có mức trần rõ ràng nào trước mắt. Máy móc đang nhanh chóng bắt chước
mọi khả năng của con người, từ tầm nhìn đến lời nói và ngôn ngữ. Ngay cả khi
không có tiến bộ cơ bản hướng tới “sự hiểu biết sâu sắc”, các mô hình ngôn ngữ
mới vẫn có thể đọc, tổng hợp và tạo ra văn bản cực kỳ hữu ích và chính xác đến
mức chảy nước mắt. Thực sự có hàng trăm vai trò trong đó chỉ riêng kỹ năng này
đã là yêu cầu cốt lõi, tuy nhiên AI còn có thể làm được nhiều điều hơn thế nữa.
Có, gần như chắc chắn rằng nhiều loại công việc mới sẽ được tạo ra. Ai có
thể nghĩ rằng “người có ảnh hưởng” sẽ trở thành một vai trò được săn đón nhiều?
Hoặc tưởng tượng rằng vào năm 2023, mọi người sẽ làm việc với tư cách là “kỹ
sư nhanh chóng” — những lập trình viên phi kỹ thuật của các mô hình ngôn ngữ
lớn, những người trở nên thành thạo trong việc đưa ra các phản hồi cụ thể? Nhu
cầu về nhân viên mát xa, nghệ sĩ cello và vận động viên ném bóng chày sẽ không
mất đi. Nhưng dự đoán tốt nhất của tôi là công việc mới sẽ không có số lượng
hoặc khoảng thời gian để thực sự hữu ích. Số người có thể lấy bằng Tiến sĩ về
học máy sẽ vẫn rất nhỏ so với quy mô sa thải. Và chắc chắn, nhu cầu mới sẽ tạo
ra công việc mới, nhưng điều đó không có nghĩa là mọi việc đều do con người
thực hiện.
Thị trường lao động cũng có sự xung đột lớn về kỹ năng, địa lý và bản sắc.
Hãy xem xét rằng trong giai đoạn phi công nghiệp hóa cuối cùng, công nhân thép
ở Pittsburgh hoặc nhà sản xuất ô tô ở Detroit khó có thể trụ vững, đào tạo lại
giữa chặng đường sự nghiệp và kiếm được công việc như một nhà giao dịch phái
sinh ở New York hay một nhà tư vấn xây dựng thương hiệu ở Seattle hoặc một giáo
viên ở Miami. . Nếu Thung lũng Silicon hoặc Thành phố Luân Đôn tạo ra nhiều
việc làm mới, điều đó sẽ không giúp ích gì cho người dân ở phía bên kia đất
nước nếu họ không có kỹ năng phù hợp hoặc không thể di dời. Nếu ý thức về bản
thân của bạn gắn liền với một loại công việc cụ thể, sẽ chẳng có gì an ủi nếu
bạn cảm thấy công việc mới hạ thấp phẩm giá của bạn.
Làm việc theo hợp đồng không giờ làm việc tại một trung tâm phân phối không
mang lại cảm giác tự hào hay đoàn kết xã hội như khi làm việc cho một nhà sản
xuất ô tô Detroit đang bùng nổ vào những năm 1960. Chỉ số Chất lượng Việc làm
của Khu vực Tư nhân, thước đo số lượng công việc mang lại thu nhập trên mức
trung bình, đã giảm kể từ năm 1990; nó cho thấy tỷ lệ công việc được trả lương
cao trong tổng số đã bắt đầu giảm.
Các quốc gia như Ấn Độ và Philippines đã chứng kiến sự bùng nổ lớn từ việc
thuê ngoài quy trình kinh doanh, tạo ra việc làm được trả lương tương đối cao
ở những nơi như trung tâm cuộc gọi. Chính xác thì loại công việc này sẽ được
nhắm mục tiêu bởi tự động hóa. Việc làm mới có thể được tạo ra trong thời gian
dài, nhưng đối với hàng triệu người, chúng sẽ không đến đủ nhanh hoặc đúng nơi.
Đồng thời, tình trạng suy thoái việc làm sẽ ảnh hưởng đến nguồn thu thuế,
làm tổn hại đến các dịch vụ công và đặt ra câu hỏi về các chương trình phúc lợi
đúng lúc chúng cần thiết nhất. Ngay cả trước khi việc làm bị suy giảm, các
chính phủ sẽ bị dàn mỏng, phải vật lộn để đáp ứng mọi cam kết, tài trợ bền vững
và cung cấp các dịch vụ mà công chúng mong đợi. Hơn nữa, tất cả sự gián đoạn
này sẽ xảy ra trên toàn cầu, trên nhiều khía cạnh, ảnh hưởng đến mọi nấc thang
phát triển từ nền kinh tế chủ yếu là nông nghiệp đến các lĩnh vực dựa trên dịch
vụ tiên tiến. Từ Lagos đến LA, con đường dẫn tới việc làm bền vững sẽ phải đối
mặt với những sai lệch to lớn, không thể đoán trước và diễn biến nhanh chóng.
Ngay cả những người không lường trước được những hậu quả nghiêm trọng nhất
của tự động hóa vẫn chấp nhận rằng nó chắc chắn sẽ gây ra những gián đoạn đáng
kể trong trung hạn. Cho dù bạn theo phe nào trong cuộc tranh luận về công việc,
thật khó để phủ nhận rằng sự phân nhánh sẽ gây bất ổn nghiêm trọng cho hàng
trăm triệu người, những người ít nhất sẽ cần phải đào tạo lại kỹ năng và chuyển
đổi sang các loại công việc mới. Các kịch bản lạc quan vẫn liên quan đến những
phân nhánh chính trị đáng lo ngại từ tình trạng tài chính của chính phủ bị phá
vỡ đến tình trạng dân chúng thiếu việc làm, bất an và tức giận.
Nó báo trước rắc rối. Một yếu tố gây căng thẳng khác trong một thế giới căng thẳng.
sự gián đoạn của thị trường lao động, giống như phương tiện truyền thông xã
hội, là bộ khuếch đại sự mong manh. Họ gây thiệt hại và làm suy yếu quốc gia-
dân tộc. Những dấu hiệu đầu tiên của điều này đang xuất hiện, nhưng giống
như phương tiện truyền thông xã hội vào cuối thập kỷ đầu tiên của thế kỷ
XXI, vẫn chưa rõ hình dạng và mức độ chính xác của những tác động sẽ như thế
nào. Trong mọi trường hợp, chỉ vì hậu quả chưa rõ ràng không có nghĩa là
chúng có thể được loại bỏ.
Những yếu tố gây căng thẳng được nêu trong chương này (không có nghĩa
là đầy đủ)—các hình thức tấn công và lỗ hổng mới, sự công nghiệp hóa của
thông tin sai lệch, vũ khí tự động gây chết người, các tai nạn như rò rỉ
trong phòng thí nghiệm và hậu quả của tự động hóa—đều quen thuộc với
những người làm trong lĩnh vực công nghệ, giới chính sách và bảo mật.
Tuy nhiên, chúng thường được xem một cách biệt lập. Điều bị bỏ sót trong
phân tích là tất cả những áp lực mới này lên các thể chế của chúng ta
đều xuất phát từ cùng một cuộc cách mạng có mục đích chung cơ bản. Làm
thế nào chúng sẽ đến với nhau, đồng thời các yếu tố gây căng thẳng giao
nhau, hỗ trợ và thúc đẩy lẫn nhau. Việc khuếch đại đầy đủ tính dễ vỡ bị
bỏ qua vì nó thường xuất hiện như thể những tác động này đang diễn ra
dần dần và trong những ngăn chứa thuận tiện. Họ không phải. Chúng xuất
phát từ một hiện tượng mạch lạc và liên quan đến nhau, biểu hiện theo những cách khác
Thực tế phức tạp, đan xen, nổi bật và hỗn loạn hơn nhiều so với bất kỳ
sự trình bày tuần tự nào có thể truyền tải. Mong manh, khuếch đại. Nhà
nước dân tộc suy yếu.
Nó đã vượt qua những cơn bất ổn trước đây. Điều khác biệt ở đây là một cuộc
cách mạng có mục đích chung không chỉ giới hạn ở những ngóc ngách cụ thể, những
vấn đề nhất định, những lĩnh vực được phân định rõ ràng. Theo định nghĩa, nó ở
khắp mọi nơi. Chi phí năng lượng giảm xuống không chỉ liên quan đến những tác
nhân xấu lừa đảo hoặc các công ty khởi nghiệp nhanh nhẹn, các ứng dụng bị hạn
chế và hạn chế.
Thay vào đó, quyền lực được phân phối lại và củng cố trên toàn bộ
phạm vi xã hội. Bản chất hoàn toàn có thể sử dụng được của sắp tới
làn sóng có nghĩa là nó được tìm thấy ở mọi cấp độ, trong mọi lĩnh vực,
mọi doanh nghiệp, mọi nền văn hóa, nhóm hoặc bộ máy quan liêu, ở mọi nơi
trên thế giới của chúng ta. Nó tạo ra hàng nghìn tỷ đô la giá trị kinh
tế mới đồng thời phá hủy một số nguồn của cải hiện có. Một số cá nhân
được kích hoạt rất nhiều; những người khác có thể mất tất cả. Về mặt quân
sự, nó trao quyền cho một số quốc gia và lực lượng dân quân. Do đó, điều
này không chỉ giới hạn ở việc khuếch đại những điểm dễ tổn thương cụ thể;
về lâu dài, nó là về sự chuyển đổi chính nền tảng mà xã hội được xây dựng
trên đó. Và trong sự phân bổ lại quyền lực lớn lao này, nhà nước, vốn đã
mong manh và ngày càng phát triển hơn, bị lung lay tận cốt lõi, cuộc mặc
cả lớn của nó trở nên rách nát và bấp bênh.
CHƯƠNG 11
TƯƠNG LAI CỦA CÁC QUỐC GIA
sự khuấy động
Tại lần đầu tiên đỏ mặt, bàn đạp yên ngựa có vẻ không mang tính cách mạng lắm.
Xét cho cùng, chúng là những hình tam giác kim loại khá thô sơ được
gắn vào dây da và yên ngựa. Nhìn gần hơn một chút, một hình ảnh
khác hiện ra.
Trước bàn đạp ngựa, tác động trên chiến trường của kỵ binh bị hạn
chế một cách đáng kinh ngạc. Các bức tường chắn phòng thủ được tổ chức
tốt nhìn chung có thể đánh lui cuộc tấn công do ngựa dẫn đầu. Bởi vì
người cưỡi ngựa không cố định vào ngựa nên họ rất dễ bị tổn thương.
Những người lính được trang bị giáo dài và khiên lớn, đứng thành hàng
ngũ chặt chẽ, có thể hạ gục ngay cả những kỵ binh nặng nhất. Do đó,
chức năng chính của con ngựa là đưa bạn đến chiến trường.
Chiếc bàn đạp đã cách mạng hóa tất cả những điều đó. Nó cố định ngọn giáo
và người cưỡi vào con vật đang lao tới, biến chúng thành một khối duy nhất.
Toàn bộ sức mạnh của ngọn giáo giờ đây là sức mạnh tổng hợp của ngựa và hiệp sĩ.
Đánh vào khiên không còn có nghĩa là bạn bị ngã; nó có nghĩa là bạn
đã đập vỡ chiếc khiên và người cầm nó. Đột nhiên phi nước đại hết tốc
lực, lao ra, kỵ binh cố định, kỵ binh hạng nặng tấn công là một chiến
thuật gây sốc áp đảo. Nó có thể phá vỡ ngay cả những tuyến bộ binh
kiên cố nhất.
Sự đổi mới nhỏ bé này đã làm nghiêng cán cân quyền lực theo hướng có lợi cho
hành vi tấn công. Ngay sau khi chiếc bàn đạp ngựa được đưa vào châu Âu, Charles
Martel, thủ lĩnh của người Frank, đã nhìn thấy tiềm năng của nó. Dùng nó để tàn phá
Kết quả là ông đã đánh bại và trục xuất người Saracens khỏi Pháp. Nhưng sự
ra đời của các đơn vị kỵ binh hạng nặng này đòi hỏi những thay đổi hỗ trợ
to lớn trong xã hội Frank. Ngựa đói và đắt tiền. Kỵ binh hạng nặng cần nhiều
năm huấn luyện. Để đáp lại, Martel và những người thừa kế của ông đã chiếm
đoạt đất đai của nhà thờ và sử dụng chúng để nuôi dưỡng một tầng lớp chiến
binh tinh nhuệ. Sự giàu có mới kiếm được của họ cho phép họ nuôi ngựa, thả
chúng đi huấn luyện, trói chúng vào vương quốc và sau đó cấp tiền để mua áo
giáp. Để đổi lấy sự giàu có và địa vị mới của mình, giới thượng lưu hứa sẽ
giữ vũ khí và chiến đấu vì nhà vua. Một món hời lớn khác đã xảy ra.
Theo thời gian, hiệp ước ngẫu hứng này đã phát triển thành một hệ thống
phức tạp của chế độ phong kiến, với mạng lưới nghĩa vụ đối với các lãnh chúa
và một tầng lớp nông nô bị ràng buộc rộng lớn. Đây là thế giới của điền
trang và danh hiệu, các giải đấu và học việc, thợ rèn và nghệ nhân, áo giáp
và lâu đài, một nền văn hóa tự giác về hình ảnh huy hiệu và những câu chuyện
lãng mạn về lòng dũng cảm của hiệp sĩ. Nó trở thành hình thức chính trị
thống trị trong toàn bộ thời kỳ trung cổ.
Bàn đạp ngựa là một sự đổi mới có vẻ đơn giản. Nhưng cùng với nó là một
cuộc cách mạng xã hội đã thay đổi cuộc sống của hàng trăm triệu người. Một
hệ thống chính trị, kinh tế, chiến tranh và văn hóa đã cấu trúc nên cuộc
sống châu Âu trong gần một nghìn năm, một phần nằm trên những hình tam giác
kim loại nhỏ đó. Câu chuyện về bàn đạp ngựa và chế độ phong kiến làm nổi bật
một sự thật quan trọng: các công nghệ mới giúp tạo ra các trung tâm quyền
lực mới với cơ sở hạ tầng xã hội mới vừa hỗ trợ vừa hỗ trợ họ. Trong chương
trước, chúng ta đã thấy quá trình này ngày nay bổ sung thêm một loạt các
thách thức trước mắt mà quốc gia-dân tộc phải đối mặt như thế nào. Nhưng về
lâu dài, tác động của việc giá điện giảm mạnh là những trận động đất mang
tính kiến tạo, chính trị-kỹ thuật làm rung chuyển nền tảng mà nhà nước được
xây dựng trên đó.
Mặc dù những thay đổi nhỏ trong công nghệ về cơ bản có thể làm thay đổi
cán cân quyền lực, nhưng việc cố gắng dự đoán chính xác diễn biến như thế
nào trong nhiều thập kỷ tới trong tương lai là điều vô cùng khó khăn. Công
nghệ cấp số nhân khuếch đại mọi người và mọi thứ. Và điều đó tạo ra sự mâu thuẫn
xu hướng. Quyền lực vừa tập trung vừa phân tán. Những người đương nhiệm đều được
củng cố và suy yếu. Các quốc gia-dân tộc vừa mong manh hơn vừa có nguy cơ rơi vào
tình trạng lạm dụng quyền lực không được kiểm soát cao hơn.
Hãy nhớ lại rằng khả năng tiếp cận quyền lực ngày càng tăng đồng nghĩa với việc
quyền lực của mọi người sẽ được khuếch đại. Trong những thập kỷ tới, các mô hình
lịch sử sẽ diễn ra một lần nữa, các trung tâm mới sẽ hình thành, cơ sở hạ tầng mới
phát triển, các hình thức quản trị và tổ chức xã hội mới sẽ xuất hiện. Đồng thời,
các tụ điểm quyền lực hiện tại sẽ được khuếch đại theo những cách không thể đoán trước.
Đôi khi, khi đọc về công nghệ, người ta có cảm giác choáng váng rằng nó sẽ quét
sạch tất cả những gì đã có trước đó, rằng không có doanh nghiệp hoặc tổ chức cũ nào
có thể sống sót sau cơn lốc. Tôi không nghĩ điều đó đúng; một số sẽ bị cuốn trôi,
nhưng nhiều thứ sẽ được tăng thêm.
Truyền hình có thể phát sóng cuộc cách mạng nhưng cũng có thể giúp xóa bỏ nó.
Công nghệ có thể củng cố các cấu trúc xã hội, hệ thống phân cấp và chế độ kiểm soát
cũng như nâng cao chúng.
Trong tình trạng hỗn loạn kéo theo đó, nếu không có sự thay đổi lớn về trọng
tâm, nhiều quốc gia dân chủ cởi mở phải đối mặt với sự suy thoái dần dần nền tảng
thể chế của mình, sự suy tàn về tính hợp pháp và quyền lực. Đây là một động lực
tuần hoàn của việc lan rộng công nghệ và chuyển dịch quyền lực, làm suy yếu nền
tảng, làm giảm khả năng kiềm chế nó và do đó dẫn đến sự lan rộng hơn nữa. Đồng
thời, các quốc gia độc tài được trang bị một kho vũ khí đàn áp mới đầy uy lực.
Nhà nước-dân tộc sẽ phải chịu các lực ly tâm và hướng tâm khổng lồ, sự tập
trung hóa và sự phân mảnh. Đó là con đường dẫn đến hỗn loạn nhanh chóng, đặt ra câu
hỏi ai là người đưa ra quyết định và quyết định như thế nào; những quyết định đó
được thực hiện như thế nào, bởi ai, khi nào và ở đâu, gây áp lực lên những sự cân
bằng mong manh và những điều chỉnh đó hướng tới điểm phá vỡ. Công thức tạo ra sự
hỗn loạn này sẽ tạo ra sự tập trung và phân tán quyền lực mới hoành tráng, chia cắt
nhà nước từ trên xuống dưới. Cuối cùng, nó sẽ gây nghi ngờ về khả năng tồn tại của
một số quốc gia.

Theo lời của nhà khoa học chính trị Wendy Brown, thế giới “hậu chủ
quyền” không thể quản lý được này sẽ vượt xa cảm giác mong manh trong
ngắn hạn; thay vào đó nó sẽ là một xu hướng vĩ mô dài hạn hướng tới sự
bất ổn sâu sắc bị mài mòn qua nhiều thập kỷ. Kết quả đầu tiên sẽ là sự
tập trung quyền lực và của cải mới trên quy mô lớn nhằm tái lập trật
tự xã hội.
Nồng độ:
SỰ LỢI NHUẬN TỔNG HỢP TRÊN TRÍ TUỆ
Từ người Mông Cổ đến người Mughal, trong hơn một nghìn năm, thế lực
hùng mạnh nhất ở châu Á là một đế chế truyền thống. Đến năm 1800 điều
đó đã thay đổi. Đó là một công ty tư nhân, thuộc sở hữu của một số
lượng cổ đông tương đối nhỏ, được điều hành bởi một số kế toán và quản
trị viên bụi bặm, làm việc trong một tòa nhà chỉ rộng có năm cửa sổ ở
một thành phố cách đó hàng ngàn dặm.
Vào đầu thế kỷ 19, Công ty Đông Ấn Anh kiểm soát những vùng đất rộng lớn
ở tiểu lục địa Ấn Độ. Nó cai trị nhiều đất đai và con người hơn số lượng tồn
tại trên toàn châu Âu, thu thuế và đặt ra luật pháp. Nó chỉ huy một đội quân
thường trực được huấn luyện kỹ lưỡng gồm 200.000 người, lớn gấp đôi quân đội
của Anh ở quê nhà và vận hành hạm đội buôn bán lớn nhất thế giới. Hỏa lực
tập thể của nó lớn hơn bất kỳ quốc gia nào ở châu Á. Các mối quan hệ thương
mại toàn cầu của nó là nền tảng trong mọi việc, từ việc thành lập Hồng Kông
đến Tiệc trà Boston. Hải quan, thuế quan và cổ tức của nước này rất quan
trọng đối với nền kinh tế Anh; không dưới một nửa hoạt động ngoại thương của
Anh vào thời điểm đó đều thông qua công ty.
Đây rõ ràng không phải là một tập đoàn bình thường. Trên thực tế, đó là
một loại đế chế. Thật khó để hình dung một công ty như thế này trong điều
kiện hiện đại. Chúng ta không hoàn toàn hướng tới một Công ty Đông Ấn thuộc
địa mới 2.0. Nhưng tôi thực sự nghĩ rằng chúng ta phải đối mặt với quy mô và
ảnh hưởng tuyệt đối mà một số phòng họp không chỉ ở mức độ tinh tế.
những tác động thúc đẩy và lựa chọn các kiến trúc định hình văn hóa và
chính trị ngày nay, nhưng quan trọng hơn là điều này có thể dẫn đến đâu
trong những thập kỷ tới. Họ là những đế chế và với làn sóng sắp tới, quy
mô, tầm ảnh hưởng và năng lực của họ sẽ được mở rộng một cách triệt để.
mọi người thường thích đo lường sự tiến bộ trong AI bằng cách so sánh nó
với mức độ một cá nhân có thể thực hiện một nhiệm vụ nhất định.
Các nhà nghiên cứu nói về việc đạt được hiệu suất siêu phàm trong dịch
thuật ngôn ngữ hoặc trong các nhiệm vụ trong thế giới thực như lái xe.
Nhưng điều này thiếu sót là các lực lượng mạnh nhất trên thế giới thực sự
là các nhóm cá nhân phối hợp để đạt được các mục tiêu chung.
Các tổ chức cũng là một loại trí thông minh. Các công ty, quân đội, cơ
quan hành chính, thậm chí cả thị trường—đây là những trí tuệ nhân tạo,
tổng hợp và xử lý lượng dữ liệu khổng lồ, tự tổ chức xung quanh các mục
tiêu cụ thể, xây dựng cơ chế để ngày càng hoàn thiện hơn trong việc đạt
được các mục tiêu đó. Quả thực, trí thông minh của máy móc giống một bộ
máy quan liêu khổng lồ hơn nhiều so với tâm trí con người. Khi chúng ta
nói về những thứ như AI có tác động to lớn đến thế giới, cần lưu ý rằng
những AI lỗi thời này có tầm ảnh hưởng sâu rộng đến mức nào.
Điều gì sẽ xảy ra khi nhiều, có lẽ là phần lớn, các nhiệm vụ cần thiết
để vận hành một công ty hoặc một cơ quan chính phủ, có thể được thực hiện
hiệu quả hơn bằng máy móc? Ai sẽ được hưởng lợi đầu tiên từ những động lực
này và họ có thể sẽ làm gì với sức mạnh mới này?
Chúng ta đang ở trong thời đại mà các siêu tập đoàn được định giá hàng
nghìn tỷ đô la và có nhiều tài sản hơn cả một quốc gia, theo mọi nghĩa.
Lấy quả táo. Nó đã tạo ra một trong những sản phẩm đẹp nhất, có ảnh hưởng
nhất và được sử dụng rộng rãi nhất trong lịch sử loài người chúng ta.
IPhone là thiên tài. Với sản phẩm của mình được hơn 1,2 tỷ người trên toàn
thế giới sử dụng, công ty đã xứng đáng nhận được những phần thưởng phong
phú cho thành công của mình: vào năm 2022, Apple được định giá cao hơn tất cả
các công ty niêm yết trên sàn giao dịch chứng khoán FTSE 100 của Anh cộng
lại. Với gần 200 tỷ USD tiền mặt và các khoản đầu tư vào ngân hàng cũng
như lượng khán giả bị giam cầm phần lớn bị khóa trong hệ sinh thái của
nó, Apple dường như đã sẵn sàng để tận dụng làn sóng mới này.
Tương tự, một loạt các dịch vụ, từ các lĩnh vực rất khác nhau, trên
khắp các khu vực rộng lớn trên hành tinh, đã được tập hợp lại thành một
tập đoàn duy nhất, Google: bản đồ và vị trí, đánh giá và danh sách doanh
nghiệp, quảng cáo, truyền phát video, công cụ văn phòng, lịch, email ,
lưu trữ ảnh, hội nghị truyền hình, v.v. Các công ty công nghệ lớn cung
cấp công cụ cho mọi thứ, từ tổ chức sinh nhật đến điều hành các doanh
nghiệp trị giá hàng triệu đô la. Các tổ chức tương đương duy nhất, tác
động sâu sắc đến cuộc sống của rất nhiều người, là các chính phủ quốc
gia. Gọi nó là “Google hóa”: một loạt các dịch vụ được cung cấp miễn phí
hoặc với chi phí thấp dẫn đến các thực thể đơn lẻ có chức năng hỗ trợ các
bộ phận lớn của nền kinh tế và trải nghiệm của con người.
Để hiểu được sự tập trung này, hãy xem xét rằng tổng doanh thu của
các công ty trong Fortune's Global 500 đã ở mức 44% GDP thế giới. Tổng
lợi nhuận của họ lớn hơn tất cả ngoại trừ GDP hàng năm của sáu quốc gia
hàng đầu. Các công ty đã kiểm soát các cụm bộ xử lý AI lớn nhất, các mẫu
tốt nhất, máy tính lượng tử tiên tiến nhất cũng như phần lớn công suất
robot và IP. Không giống như tên lửa, vệ tinh và internet, biên giới của
làn sóng này được tìm thấy ở các tập đoàn chứ không phải ở các tổ chức
chính phủ hay phòng thí nghiệm học thuật. Đẩy nhanh quá trình này với
thế hệ công nghệ tiếp theo và một tương lai tập trung vào công ty dường
như không còn là điều phi thường nữa.
Hiện đã có một hiệu ứng “siêu sao” rõ rệt và ngày càng gia tăng, trong
đó những người chơi dẫn đầu chiếm được nhiều phần lớn hơn bao giờ hết của
chiếc bánh. Năm mươi thành phố hàng đầu thế giới có phần lớn tài sản và
quyền lực doanh nghiệp (45% trụ sở công ty lớn; 21% GDP thế giới) mặc dù
chỉ chiếm 8% dân số thế giới.
10% công ty hàng đầu thế giới chiếm 80% tổng lợi nhuận.
Mong đợi làn sóng sắp tới sẽ xuất hiện trong bức tranh này, tạo ra
những siêu sao giàu có hơn và thành công hơn—dù là khu vực, lĩnh vực
kinh doanh, công ty hay nhóm nghiên cứu.
Tôi nghĩ chúng ta sẽ thấy một nhóm các tập đoàn tư nhân phát triển
vượt xa quy mô và tầm với của nhiều quốc gia. Hãy xem xét ảnh hưởng
to lớn của một đế chế doanh nghiệp rộng lớn như Tập đoàn Samsung ở
Hàn Quốc. Được thành lập như một cửa hàng mì cách đây gần một thế kỷ,
nó đã trở thành một tập đoàn lớn sau Chiến tranh Triều Tiên. Khi Hàn
Quốc tăng trưởng nhanh trong những năm 1960 và 1970, Samsung là trung
tâm của quốc gia này, không chỉ là một cường quốc sản xuất đa dạng mà
còn là một công ty lớn trong lĩnh vực ngân hàng và bảo hiểm. Phép màu
kinh tế Hàn Quốc là phép màu do Samsung tạo ra. Vào thời điểm này,
Samsung là chaebol hàng đầu, tên được đặt cho một nhóm nhỏ các công ty
lớn thống trị đất nước.
Điện thoại thông minh, chất bán dẫn và TV là những sản phẩm đặc
biệt của Samsung. Nhưng bảo hiểm nhân thọ, người điều hành phà và công
viên giải trí cũng vậy. Sự nghiệp tại Samsung được đánh giá rất cao.
Doanh thu của Tập đoàn Samsung chiếm tới 20% nền kinh tế Hàn Quốc. Đối
với người Hàn Quốc ngày nay, Samsung gần như giống như một chính phủ
song song, hiện diện thường xuyên trong suốt cuộc sống của người dân.
Với mạng lưới lợi ích dày đặc và các vụ bê bối của chính phủ và doanh
nghiệp đang diễn ra, sự cân bằng quyền lực giữa nhà nước và tập đoàn
rất bấp bênh và mờ nhạt.
Samsung và Hàn Quốc là những trường hợp ngoại lệ nhưng có lẽ không còn lâu nữa.
Với phạm vi năng lực tập trung, những thứ thường thuộc về chính quyền
ngày nay, như giáo dục và quốc phòng, thậm chí có thể là tiền tệ hoặc
thực thi pháp luật, đều có thể được cung cấp bởi thế hệ công ty mới
này. Ví dụ, hệ thống giải quyết tranh chấp của eBay và PayPal đã xử
lý khoảng 60 triệu vụ bất đồng mỗi năm, gấp ba lần so với toàn bộ hệ
thống pháp luật Hoa Kỳ. Chín mươi phần trăm các tranh chấp này được
giải quyết chỉ bằng công nghệ. Còn nhiều điều nữa sẽ đến.
—
công nghệ đã tạo ra những đế chế hiện đại. Làn sóng đang tới nhanh chóng đẩy nhanh xu
hướng này, trao quyền lực và sự giàu có to lớn vào tay những người tạo ra và kiểm soát
nó. Các lợi ích tư nhân mới sẽ bước vào những không gian bị bỏ trống bởi các chính
phủ quá căng thẳng và quá tải. Quá trình này sẽ không, giống như Công ty Đông Ấn,
được thực thi bằng súng hỏa mai, nhưng nó sẽ, giống hệt như Công ty Đông Ấn, sẽ tạo
ra các công ty tư nhân với quy mô, tầm với và quyền lực của các chính phủ. Những công
ty có tiền mặt, chuyên môn và khả năng phân phối để tận dụng làn sóng sắp tới, nhằm
tăng cường đáng kể trí thông minh của họ và đồng thời mở rộng phạm vi tiếp cận, sẽ
thu được lợi nhuận khổng lồ.
Trong làn sóng cuối cùng, mọi thứ đã phi vật chất hóa; hàng hóa trở thành dịch vụ.
Bạn không còn mua phần mềm hoặc nhạc trên đĩa CD nữa; nó được phát trực tuyến. Bạn
chỉ mong đợi phần mềm chống vi-rút và bảo mật như một sản phẩm phụ của việc sử dụng
Google hoặc Apple. Sản phẩm bị hỏng, lỗi thời. Dịch vụ ít hơn như vậy.
Chúng liền mạch và dễ sử dụng. Về phần mình, các công ty mong muốn bạn đăng ký vào hệ
sinh thái phần mềm của họ; thanh toán thường xuyên rất hấp dẫn. Tất cả các nền tảng
công nghệ lớn đều chủ yếu là doanh nghiệp dịch vụ hoặc có doanh nghiệp dịch vụ rất
lớn. Apple có App Store, mặc dù chủ yếu bán thiết bị và Amazon, trong khi hoạt động
với tư cách là nhà bán lẻ hàng hóa vật chất lớn nhất thế giới, cũng cung cấp dịch vụ
thương mại điện tử cho người bán và truyền hình trực tuyến cho các cá nhân, đồng thời
lưu trữ một lượng lớn Internet trên đám mây của mình. cung cấp, Dịch vụ web của Amazon.
Bạn nhìn ở mọi nơi, công nghệ đều đẩy nhanh quá trình phi vật chất hóa này, giảm
bớt sự phức tạp cho người tiêu dùng cuối bằng cách cung cấp các dịch vụ tiêu dùng liên
tục thay vì các sản phẩm truyền thống mua một lần. Cho dù đó là các dịch vụ như Uber,
DoorDash và Airbnb hay các nền tảng xuất bản mở như Instagram và TikTok, xu hướng của
các doanh nghiệp lớn là không tham gia vào thị trường mà trở thành thị trường, không
tạo ra sản phẩm mà vận hành dịch vụ.
Câu hỏi bây giờ là, còn điều gì khác có thể được biến thành một dịch vụ, được đưa vào
bộ sản phẩm hiện có của một doanh nghiệp lớn khác?

Trong vài thập kỷ tới, tôi dự đoán hầu hết các sản phẩm vật chất sẽ
giống như dịch vụ. Việc sản xuất và phân phối với chi phí cận biên bằng
không sẽ giúp điều này trở nên khả thi. Việc di chuyển sang đám mây sẽ trở
nên toàn diện và xu hướng này sẽ được thúc đẩy bởi sự phát triển của phần
mềm mã ngắn và không mã, sự phát triển của sản xuất sinh học và sự bùng nổ
của in 3-D. Khi bạn kết hợp tất cả các khía cạnh của làn sóng sắp tới, từ
khả năng thiết kế, quản lý và hậu cần của AI đến mô hình hóa các phản ứng
hóa học được kích hoạt bởi điện toán lượng tử đến khả năng lắp ráp chi tiết
của robot, bạn sẽ có được một cuộc cách mạng toàn diện về bản chất. của sự
sản xuất.
Thực phẩm, thuốc, sản phẩm gia dụng, thực tế là hầu hết mọi thứ đều có
thể được in 3-D, sản xuất sinh học hoặc được sản xuất bằng cách sử dụng quy
trình sản xuất chính xác về mặt nguyên tử gần hoặc tại địa điểm sử dụng,
được điều chỉnh bởi các AI phức tạp làm việc trôi chảy với khách hàng bằng
ngôn ngữ tự nhiên. Bạn chỉ cần mua mã thực thi và để AI hoặc robot thực
hiện nhiệm vụ hoặc tạo ra sản phẩm. Vâng, điều này làm sáng tỏ khối lượng
vật chất phức tạp khủng khiếp, và vâng, đó là một chặng đường dài. Nhưng
hãy nheo mắt nhìn về phía xa, và kịch bản này rõ ràng là hợp lý. Ngay cả
khi bạn không tin toàn bộ lập luận ở đây, có vẻ như những lực lượng này sẽ
không tạo ra những thay đổi lớn và sự tập trung giá trị mới trong toàn bộ
chuỗi cung ứng kinh tế toàn cầu.
Đáp ứng nhu cầu về các dịch vụ giá rẻ và liền mạch thường đòi hỏi quy
mô (đầu tư ban đầu lớn vào chip, con người, bảo mật, đổi mới), điều này
mang lại lợi ích và tăng tốc độ tập trung hóa.
Trong kịch bản này sẽ chỉ có một số ít người chơi lớn có quy mô và quyền
lực bắt đầu cạnh tranh với các quốc gia truyền thống. Hơn nữa, chủ sở hữu
của những hệ thống tốt nhất có thể thiết lập được lợi thế cạnh tranh to
lớn. Những công ty tập trung khổng lồ trong làn sóng sắp tới mà tôi vừa đề
cập? Họ có thể sẽ trở nên lớn hơn, giàu có hơn và vững chắc hơn các doanh
nghiệp trong quá khứ.
Các hệ thống càng khái quát hóa thành công từ lĩnh vực này sang lĩnh vực
khác thì quyền lực và của cải đó càng tập trung vào tay chủ sở hữu của
chúng. Những người có đủ nguồn lực để phát minh hoặc áp dụng những công nghệ mới
công nghệ nhanh nhất—chẳng hạn như những công nghệ có thể vượt qua bài kiểm tra
Turing cập nhật của tôi—sẽ có được lợi nhuận gộp nhanh chóng. Hệ thống của họ có
nhiều dữ liệu hơn và “kinh nghiệm triển khai trong thế giới thực” và do đó hoạt động
tốt hơn, khái quát hóa nhanh hơn và nắm bắt được lợi thế, thu hút những nhân tài
giỏi nhất để xây dựng chúng. Một “khoảng cách trí tuệ” không thể vượt qua trở nên
hợp lý. Nếu một tổ chức tiến đủ xa về phía trước, nó có thể trở thành một tổ chức
tạo ra doanh thu và cuối cùng là một trung tâm quyền lực không gì sánh bằng. Nếu quá
trình đó mở rộng sang một thứ gì đó như AGI đầy đủ hoặc quyền lực tối cao lượng tử,
nó có thể gây khó khăn cho những người mới tham gia hoặc các chính phủ thực sự.
Dù điểm cuối là gì, chúng ta cũng đang hướng tới một nơi có những sức mạnh và
khả năng chưa từng có, nằm trong tay những chủ thể vốn đã mạnh mẽ, những người chắc
chắn sẽ sử dụng chúng để mở rộng phạm vi tiếp cận và tiếp tục chương trình nghị sự
của riêng họ.

Nồng độ như vậy sẽ cho phép các siêu tập đoàn tự động hóa,
rộng lớn chuyển giá trị từ vốn nhân lực—công việc—và hướng tới vốn thô. Đặt tất cả
những bất bình đẳng do sự tập trung lại với nhau, và nó sẽ tạo ra một sự gia tốc lớn
khác và làm sâu sắc thêm cấu trúc của vết nứt hiện có. Không có gì ngạc nhiên khi
người ta nói về chủ nghĩa phong kiến mới hoặc kỹ thuật - một thách thức trực tiếp
đối với trật tự xã hội, lần này được xây dựng trên một cái gì đó thậm chí còn vượt
xa cả những chiếc bàn đạp.
Tóm lại, lợi nhuận từ thông tin tình báo sẽ tăng theo cấp số nhân. Một số trí
tuệ nhân tạo chọn lọc mà chúng ta thường gọi là tổ chức sẽ được hưởng lợi rất nhiều
từ sự tập trung năng lực mới—có lẽ là sự tập trung lớn nhất từng thấy. Việc tái tạo
bản chất của những gì đã khiến loài người chúng ta thành công thành những công cụ có
thể tái sử dụng và áp dụng lại nhiều lần, trong vô số môi trường khác nhau, là một
giải thưởng to lớn mà các tập đoàn và cơ quan quan liêu thuộc mọi loại sẽ theo đuổi
và sử dụng. Những thực thể này được quản lý như thế nào, chúng sẽ chống lại, nắm bắt
và tái cơ cấu nhà nước như thế nào, là một câu hỏi mở. Việc họ sẽ thách thức điều đó
có vẻ chắc chắn.
Nhưng hậu quả của việc tập trung quyền lực lớn hơn không
kết thúc với các tập đoàn.

GIÁM SÁT:
NHIÊN LIỆU ROCKET CHO CHỦ ĐỘ ĐỘC QUYỀN
Khi so sánh với các tập đoàn siêu sao, các chính phủ có vẻ chậm chạp,
cồng kềnh và mất liên lạc. Thật hấp dẫn khi coi chúng như hướng tới thùng
rác lịch sử. Tuy nhiên, một phản ứng tất yếu khác của các quốc gia dân
tộc sẽ là sử dụng các công cụ của làn sóng sắp tới để siết chặt quyền
lực, tận dụng tối đa lợi thế để cố thủ sự thống trị của mình.
Trong thế kỷ 20, các chế độ toàn trị muốn có nền kinh tế kế hoạch
hóa, dân số phục tùng và hệ sinh thái thông tin được kiểm soát. Họ muốn
quyền bá chủ hoàn toàn. Mọi khía cạnh của cuộc sống đều được quản lý. Kế
hoạch 5 năm quyết định mọi thứ, từ số lượng và nội dung phim cho đến số
giạ lúa mì dự kiến thu được từ một cánh đồng nhất định.
Các nhà quy hoạch theo chủ nghĩa hiện đại cao hy vọng sẽ tạo ra những thành phố
nguyên sơ có trật tự và dòng chảy rõ ràng. Một bộ máy an ninh luôn canh gác và
tàn nhẫn đã khiến mọi việc diễn ra suôn sẻ. Quyền lực tập trung trong tay một
nhà lãnh đạo tối cao duy nhất, có khả năng quan sát toàn cảnh và hành động dứt khoát.
Hãy nghĩ đến quá trình tập thể hóa của Liên Xô, kế hoạch 5 năm của Stalin, Trung
Quốc của Mao, Stasi của Đông Đức. Đây là chính phủ như một cơn ác mộng đen tối.
Và ít nhất cho đến nay, nó luôn mắc sai lầm tai hại.
Bất chấp những nỗ lực hết mình của các nhà cách mạng cũng như các quan
chức, xã hội vẫn không thể uốn nắn được; nó chưa bao giờ hoàn toàn “dễ
đọc” đối với nhà nước, mà là một thực tế lộn xộn, không thể kiểm soát
được, không phù hợp với những giấc mơ thuần túy của trung tâm. Nhân loại
quá đa dạng, quá bốc đồng để bị bó buộc như thế này. Trong quá khứ, các
công cụ sẵn có của các chính phủ toàn trị không đáp ứng được nhiệm vụ.
Thế là những chính phủ đó đã thất bại; họ đã thất bại trong việc cải
thiện chất lượng cuộc sống, hoặc cuối cùng họ sụp đổ hoặc cải tổ. Sự tập
trung cao độ không chỉ là điều không mong muốn; nó thực tế là không thể.
Làn sóng sắp tới cho thấy khả năng đáng lo ngại rằng điều này có thể
không còn đúng nữa. Thay vào đó, nó có thể bắt đầu tiêm tập trung
quyền lực và sự kiểm soát sẽ biến các chức năng của nhà nước thành những
bóp méo mang tính đàn áp đối với mục đích ban đầu của chúng. Nhiên liệu
tên lửa cho các nhà độc tài cũng như cho sự cạnh tranh quyền lực lớn.
Khả năng thu thập và khai thác dữ liệu ở quy mô và độ chính xác vượt
trội; để tạo ra các hệ thống giám sát và kiểm soát trải rộng trên lãnh
thổ, phản ứng theo thời gian thực; nói cách khác, tập hợp công nghệ mạnh
mẽ nhất trong lịch sử dưới sự chỉ huy của một cơ quan duy nhất sẽ viết
lại các giới hạn quyền lực nhà nước một cách toàn diện đến mức nó sẽ tạo
ra một loại thực thể hoàn toàn mới.
loa thông minh của bạn đánh thức bạn dậy. Ngay lập tức bạn quay sang
điện thoại và kiểm tra email. Đồng hồ thông minh cho bạn biết bạn đã có
một giấc ngủ đêm bình thường và nhịp tim của bạn ở mức trung bình vào
buổi sáng. Về lý thuyết, một tổ chức ở xa đã biết bạn thức lúc mấy giờ,
bạn cảm thấy thế nào và bạn đang nhìn gì.
Bạn rời khỏi nhà và đi đến văn phòng, điện thoại theo dõi chuyển động
của bạn, ghi lại các lần gõ phím trên tin nhắn văn bản và podcast bạn
nghe. Trên đường đi và suốt cả ngày, bạn bị camera quan sát ghi lại hàng
trăm lần. Suy cho cùng, thành phố này cứ mười người thì có ít nhất một
camera, có thể còn nhiều hơn thế.
Khi bạn vuốt vào văn phòng, hệ thống sẽ ghi lại thời gian bạn vào.
Phần mềm được cài đặt trên máy tính của bạn sẽ giám sát năng suất đến
chuyển động của mắt.
Trên đường về nhà bạn dừng lại để mua bữa tối. Chương trình khách hàng
thân thiết của siêu thị theo dõi việc mua hàng của bạn. Sau khi ăn xong, bạn
say sưa xem một bộ phim truyền hình khác; thói quen xem của bạn được ghi nhận
hợp lệ. Từng cái nhìn, từng tin nhắn vội vã, từng nửa suy nghĩ được đăng ký
trong một trình duyệt đang mở hoặc tìm kiếm thoáng qua, từng bước đi qua những
con phố nhộn nhịp, từng nhịp tim và giấc ngủ không ngon, mọi giao dịch mua
hàng được thực hiện hoặc rút lui—tất cả đều được ghi lại, theo dõi, lập bảng
kê. Và đây chỉ là một phần nhỏ của dữ liệu có thể được thu thập hàng ngày, không chỉ ở
làm việc hoặc qua điện thoại, nhưng tại văn phòng bác sĩ hoặc trong phòng tập thể dục.
Hầu hết mọi chi tiết của cuộc sống đều được ghi lại ở đâu đó bởi những người có khả
năng xử lý và hành động tinh vi dựa trên dữ liệu họ thu thập được. Đây không phải là
một viễn cảnh xa vời. Tôi đang mô tả thực tế hàng ngày của hàng triệu người ở một
thành phố như London.
Bước duy nhất còn lại là tập hợp các cơ sở dữ liệu khác nhau này lại thành một hệ
thống tích hợp duy nhất: một bộ máy giám sát hoàn hảo của thế kỷ XXI. Ví dụ điển hình
tất nhiên là Trung Quốc. Đó hầu như không phải là tin tức, nhưng điều trở nên rõ ràng
là chương trình của đảng đã tiến bộ và đầy tham vọng đến mức nào, chứ chưa nói đến
việc nó sẽ kết thúc ở đâu sau hai mươi hoặc ba mươi năm nữa.
So với phương Tây, nghiên cứu của Trung Quốc về AI tập trung vào các lĩnh vực
giám sát như theo dõi đối tượng, hiểu cảnh và nhận dạng giọng nói hoặc hành động.
Công nghệ giám sát có mặt ở khắp mọi nơi, ngày càng chi tiết hơn trong khả năng giám
sát mọi khía cạnh của cuộc sống người dân. Họ kết hợp nhận dạng trực quan khuôn mặt,
dáng đi và biển số xe với việc thu thập dữ liệu—bao gồm cả dữ liệu sinh học—trên quy
mô lớn. Các dịch vụ tập trung như WeChat tập hợp mọi thứ từ nhắn tin cá nhân đến mua
sắm và ngân hàng vào một nơi dễ dàng theo dõi. Lái xe trên đường cao tốc của Trung
Quốc và bạn sẽ nhận thấy hàng trăm camera theo dõi biển số tự động. (Những thứ này
cũng tồn tại ở hầu hết các khu vực đô thị lớn ở thế giới phương Tây.) Trong thời gian
cách ly do Covid, chó robot và máy bay không người lái mang loa phát ra thông điệp
cảnh báo mọi người ở lại bên trong.
Phần mềm nhận dạng khuôn mặt được xây dựng dựa trên những tiến bộ trong thị giác
máy tính mà chúng ta đã thấy trong phần 2, nhận dạng từng khuôn mặt với độ chính xác
tuyệt vời. Khi tôi mở điện thoại, nó tự động bắt đầu khi “nhìn thấy” khuôn mặt của
tôi: một sự tiện lợi nhỏ nhưng khéo léo nhưng chứa đựng những hàm ý rõ ràng và sâu
sắc. Mặc dù hệ thống này ban đầu được phát triển bởi các nhà nghiên cứu doanh nghiệp
và học thuật ở Hoa Kỳ, nhưng không nơi nào chấp nhận hoặc hoàn thiện công nghệ này
hơn Trung Quốc.

Chủ tịch Mao từng nói “nhân dân có con mắt tinh tường” khi theo dõi hàng xóm
vi phạm chính thống cộng sản. Đến năm 2015, đây là nguồn cảm hứng cho một chương
trình nhận dạng khuôn mặt “Sharp Eyes” quy mô lớn với mong muốn triển khai hoạt
động giám sát như vậy trên không dưới 100% không gian công cộng. Một nhóm các
nhà nghiên cứu hàng đầu từ Đại học Hồng Kông Trung Quốc đã tiếp tục thành lập
SenseTime, một trong những công ty nhận dạng khuôn mặt lớn nhất thế giới, được
xây dựng trên cơ sở dữ liệu gồm hơn hai tỷ khuôn mặt. Trung Quốc hiện là quốc
gia dẫn đầu về công nghệ nhận dạng khuôn mặt, với các công ty khổng lồ như Megvii
và CloudWalk đang cạnh tranh thị phần với SenseTime. Cảnh sát Trung Quốc thậm chí
còn có kính râm tích hợp công nghệ nhận dạng khuôn mặt có khả năng theo dõi nghi
phạm trong đám đông.
Khoảng một nửa tỷ camera quan sát trên thế giới được đặt ở Trung Quốc. Nhiều
người có tính năng nhận dạng khuôn mặt tích hợp và được định vị cẩn thận để thu
thập thông tin tối đa, thường là ở những không gian gần như riêng tư: tòa nhà
dân cư, khách sạn, thậm chí cả phòng karaoke. Một cuộc điều tra của tờ New York
Times cho thấy chỉ riêng cảnh sát tỉnh Phúc Kiến ước tính họ nắm giữ cơ sở dữ
liệu gồm 2,5 tỷ hình ảnh khuôn mặt. Họ thẳng thắn nói về mục đích của nó: “kiểm
soát và quản lý con người”. Các nhà chức trách cũng đang tìm cách thu thập dữ
liệu âm thanh — cảnh sát ở thành phố Trung Sơn muốn có camera có thể ghi lại âm
thanh trong bán kính 300 foot — đồng thời việc giám sát và lưu trữ chặt chẽ dữ
liệu sinh học đã trở thành thói quen trong kỷ nguyên COVID.
Bộ Công an nêu rõ ưu tiên tiếp theo: ghép các cơ sở dữ liệu và dịch vụ rải
rác này thành một tổng thể mạch lạc, từ biển số xe đến DNA, tài khoản WeChat đến
thẻ tín dụng. Hệ thống hỗ trợ AI này có thể phát hiện các mối đe dọa mới nổi
đối với ĐCSTQ như những người bất đồng chính kiến và các cuộc biểu tình trong
thời gian thực, cho phép chính phủ đưa ra phản ứng liền mạch và mạnh mẽ đối với
bất kỳ điều gì mà họ cho là không mong muốn. Không nơi nào điều này kết hợp với
nhau với tiềm năng kinh hoàng hơn ở Khu tự trị Tân Cương.
Vùng đất gồ ghề và xa xôi ở phía tây bắc Trung Quốc này đã chứng kiến sự đàn
áp có hệ thống và được trao quyền bằng công nghệ cũng như các cuộc đàn áp sắc tộc.
thanh lọc người Duy Ngô Nhĩ bản địa. Tất cả các hệ thống giám sát và kiểm soát này
đều được tập hợp lại ở đây. Các thành phố được đặt dưới sự giám sát của camera với
tính năng nhận dạng khuôn mặt và theo dõi AI. Các trạm kiểm soát và trại “cải tạo”
quản lý các phong trào và quyền tự do. Một hệ thống điểm tín nhiệm xã hội dựa trên
nhiều cơ sở dữ liệu được giám sát sẽ theo dõi người dân. Các nhà chức trách đã xây
dựng cơ sở dữ liệu quét mống mắt có khả năng chứa tới ba mươi triệu mẫu—nhiều hơn dân
số trong khu vực.
Các xã hội giám sát và kiểm soát quá mức đã xuất hiện ở đây, và giờ đây tất cả
những điều này sẽ leo thang mạnh mẽ thành sự tập trung quyền lực ở cấp độ tiếp theo
ở trung tâm. Tuy nhiên, sẽ là sai lầm nếu coi đây chỉ là vấn đề của Trung Quốc hoặc
độc tài. Đầu tiên, công nghệ này đang được xuất khẩu sỉ sang những nơi như Venezuela
và Zimbabwe, Ecuador và Ethiopia. Thậm chí đến Hoa Kỳ. Năm 2019, chính phủ Mỹ đã cấm
các cơ quan liên bang và nhà thầu của họ mua thiết bị viễn thông và giám sát từ một
số nhà cung cấp Trung Quốc bao gồm Huawei, ZTE và Hikvision. Tuy nhiên, chỉ một năm
sau, ba cơ quan liên bang bị phát hiện đã mua những thiết bị như vậy từ các nhà cung
cấp bị cấm.
Hơn một trăm thị trấn của Hoa Kỳ thậm chí đã có được công nghệ được phát triển để sử
dụng cho người Duy Ngô Nhĩ ở Tân Cương. Một thất bại trong sách giáo khoa về ngăn chặn.
Các công ty và chính phủ phương Tây cũng đi đầu trong việc xây dựng và triển khai
công nghệ này. Gọi London ở trên không phải là ngẫu nhiên: nó cạnh tranh với các
thành phố như Thâm Quyến về số lượng người được giám sát nhiều nhất trên thế giới.
Không có gì bí mật khi các chính phủ giám sát và kiểm soát người dân của chính họ,
nhưng những xu hướng này cũng lan rộng sâu vào các công ty phương Tây. Trong nhà kho
thông minh, mọi chuyển động vi mô của mỗi công nhân đều được theo dõi nhiệt độ cơ thể
và thời gian đi vệ sinh.
Các công ty như Vigilant Solutions tổng hợp dữ liệu chuyển động dựa trên việc theo
dõi biển số xe, sau đó bán dữ liệu đó cho các khu vực pháp lý như chính quyền tiểu
bang hoặc thành phố. Ngay cả chiếc bánh pizza mang đi của bạn cũng đang bị theo dõi:
Domino's sử dụng máy ảnh hỗ trợ AI để kiểm tra những chiếc bánh của mình. Cũng nhiều như vậy
như bất kỳ ai ở Trung Quốc, những người ở phương Tây để lại một lượng dữ liệu
khổng lồ mỗi ngày trong cuộc sống của họ. Và cũng giống như ở Trung Quốc, nó
được thu hoạch, chế biến, vận hành và bán.
trước làn sóng sắp tới, khái niệm về “panopticon công nghệ cao” toàn
cầu đã là nội dung của các tiểu thuyết đen tối, We của Yevgeny
Zamyatin hoặc 1984 của George Orwell . Panopticon đang trở nên khả thi.
Hàng tỷ thiết bị và hàng nghìn tỷ điểm dữ liệu có thể được vận hành và giám
sát cùng một lúc, theo thời gian thực, không chỉ được sử dụng để giám sát mà
còn để dự đoán. Nó không chỉ thấy trước các kết quả xã hội một cách chính xác
và chi tiết mà còn có thể điều khiển hoặc ép buộc chúng một cách tinh vi hoặc
công khai, từ các quy trình vĩ mô lớn như kết quả bầu cử cho đến hành vi của
người tiêu dùng cá nhân.
Điều này nâng triển vọng của chủ nghĩa toàn trị lên một tầm cao mới. Nó
sẽ không xảy ra ở mọi nơi và không xảy ra cùng một lúc. Nhưng nếu AI, công
nghệ sinh học, lượng tử, robot và phần còn lại của nó được tập trung vào tay
một trạng thái đàn áp, thì thực thể tạo ra sẽ khác biệt rõ rệt so với bất kỳ
thực thể nào từng thấy. Trong chương tiếp theo chúng ta sẽ quay lại khả năng này.
Tuy nhiên, trước đó lại xuất hiện một xu hướng khác. Một điều hoàn toàn trái
ngược với sự tập trung hóa.
PHÂN BIỆT:
QUYỀN LỰC CHO NHÂN DÂN
Hãy nghe từ “Hezbollah” và đối với hầu hết mọi người, nó không gợi ý
đến quốc hội, trường học và bệnh viện. Suy cho cùng, đây là một tổ
chức chiến binh ra đời từ thảm kịch kéo dài của cuộc nội chiến ở
Lebanon, với hồ sơ bạo lực, chính phủ Mỹ chính thức xếp vào loại khủng
bố và thường hoạt động như một đại diện cho các lợi ích của Iran. Nhưng
còn nhiều điều đang diễn ra ở đây, và nó gợi ý về một hướng đi khác cho quyền lực
và nhà nước.
Trên lãnh thổ quê nhà Lebanon, Hezbollah hoạt động như một “nhà nước trong một
nhà nước” của người Shiite. Có cánh quân sự khá lớn và khét tiếng.
Nó có thể là tổ chức phi nhà nước được trang bị vũ khí tốt nhất trên thế giới,
với, theo lời của một nhà phân tích, “một kho pháo binh lớn hơn hầu hết các quốc gia”.
Nó có máy bay không người lái, xe tăng, tên lửa tầm xa và hàng nghìn binh sĩ đã
chiến đấu bên cạnh chế độ Assad trong cuộc nội chiến ở Syria và thường xuyên giao
chiến với Israel.
Có lẽ trước sự ngạc nhiên của một số người, Hezbollah cũng là một lực lượng
chính trị chính thống lớn, một đảng thông thường trong vở kịch tâm lý đang diễn
ra đó là chính phủ Lebanon. Theo nhiều cách, nó chỉ là một phần khác của hệ thống
chính trị, xây dựng liên minh, soạn thảo luật và làm việc với các công cụ thông
thường của nhà nước. Các thành viên của nó ngồi trong hội đồng thành phố địa
phương và trong quốc hội và giữ các vị trí nội các bộ trưởng. Trên khắp vùng lãnh
thổ Lebanon rộng lớn mà họ kiểm soát, Hezbollah vận hành các trường học, bệnh
viện, trung tâm chăm sóc sức khỏe, cơ sở hạ tầng, dự án nước và các sáng kiến cho
vay tín dụng vi mô. Quả thực, một số chương trình này thậm chí còn nhận được sự
ủng hộ của người Sunni và Cơ đốc giáo. Toàn bộ các quận về cơ bản do Hezbollah
điều hành theo cách thức của một nhà nước. Nó cũng tiến hành nhiều hoạt động
thương mại khác nhau, có tính chất hợp pháp và tội phạm hơn, bao gồm cả buôn lậu
dầu.
Vậy Hezbollah là gì? Nhà nước hay phi nhà nước? Nhóm cực đoan hay quyền lực
dựa trên lãnh thổ thông thường? Thay vào đó, nó là một thực thể “hỗn hợp” kỳ lạ
hoạt động cả bên trong và bên ngoài các tổ chức nhà nước. Một quốc gia, nhưng
không phải là một quốc gia, có khả năng thực hiện các trách nhiệm và hoạt động có
lợi cho lợi ích của chính mình, thường gây ra những hậu quả nghiêm trọng cho cả
quốc gia và khu vực rộng lớn hơn. Không có quá nhiều tổ chức như Hezbollah phát
triển trong bối cảnh căng thẳng khu vực đặc biệt.
Tuy nhiên, làn sóng sắp tới có thể khiến một loạt các thực thể nhỏ, giống nhà
nước trở nên hợp lý hơn rất nhiều. Ngược lại với sự tập trung hóa, nó có thể
thực sự thúc đẩy một kiểu “Hezbollah hóa”, một thế giới chia cắt, mang tính
bộ tộc, nơi mọi người đều có quyền tiếp cận những công nghệ mới nhất, nơi mọi
người có thể tự hỗ trợ mình theo cách riêng của mình, nơi mọi người có thể
duy trì mức sống cao hơn nhiều mà không cần đến các kiến trúc thượng tầng vĩ
đại của tổ chức nhà nước-dân tộc.
Hãy xem xét rằng sự kết hợp giữa AI, robot giá rẻ và công nghệ sinh học
tiên tiến cùng với các nguồn năng lượng sạch, lần đầu tiên trong thời hiện
đại, có thể khiến cuộc sống “không nối lưới” gần tương đương với việc cắm
điện. Hãy nhớ lại rằng chỉ trong thập kỷ qua, chi phí quang điện mặt trời đã
giảm hơn 82% và sẽ còn giảm sâu hơn nữa, khiến khả năng tự cung cấp năng
lượng cho các xã nhỏ hơn nằm trong tầm tay. Khi điện khí hóa cơ sở hạ tầng và
các giải pháp thay thế cho nhiên liệu hóa thạch ngày càng lan rộng, nhiều nơi
trên thế giới có thể trở nên tự cung tự cấp nhưng hiện được trang bị cơ sở hạ
tầng về AI, sinh học, robot, v.v., có khả năng tạo ra thông tin và sản xuất
tại địa phương.

Các lĩnh vực như giáo dục và y học hiện đang dựa vào cơ sở hạ tầng tài
chính và xã hội khổng lồ. Hoàn toàn có thể hình dung những điều này sẽ được
thu gọn và bản địa hóa: chẳng hạn, hệ thống giáo dục thông minh và thích ứng
sẽ đưa học sinh đi qua toàn bộ hành trình học tập, xây dựng một chương trình
giảng dạy riêng; AI có thể tạo ra tất cả các tài liệu như trò chơi tương tác
phù hợp hoàn hảo với trẻ bằng hệ thống chấm điểm tự động; và như thế.
Bạn có thể không có chiếc ô an ninh tập thể, như trong hệ thống quốc gia-
nhà nước, nhưng thuê các hình thức bảo vệ vật lý và mạng khác nhau trên cơ sở
đặc biệt. Tin tặc AI và máy bay không người lái tự động cũng sẽ có sẵn cho
các nhóm bảo mật tư nhân. Trước đó chúng ta đã thấy khả năng tấn công đang
được lan truyền đến bất kỳ ai muốn nó như thế nào; điều ngược lại là sự phân
bổ tương tự theo thời gian sẽ xảy ra với quốc phòng. Khi bất kỳ ai có quyền
tiếp cận vùng bờ vực chảy máu, không chỉ các quốc gia mới có thể xây dựng các
hệ thống phòng thủ vật lý và ảo đáng gờm.
Tóm lại, những bộ phận chủ chốt của xã hội hiện đại và tổ chức xã hội mà
ngày nay dựa vào quy mô và sự tập trung hóa có thể được phân quyền triệt để bởi
khả năng được mở khóa với làn sóng sắp tới. Cuộc nổi dậy hàng loạt, chủ nghĩa
ly khai và sự hình thành nhà nước dưới mọi hình thức đều có vẻ rất khác trong
thế giới này. Phân phối lại quyền lực thực sự có nghĩa là các cộng đồng thuộc
mọi loại có thể sống theo ý muốn của họ, cho dù họ là ISIS, FARC, Anonymous,
những người ly khai từ Biafra đến Catalonia hay một tập đoàn lớn đang xây dựng
các công viên giải trí sang trọng trên một hòn đảo xa xôi ở Thái Bình Dương.
một số khía cạnh của làn sóng sắp tới hướng tới việc tập trung quyền
lực hơn nữa. Các mô hình AI lớn nhất sẽ tiêu tốn hàng trăm triệu đô la
để đào tạo và do đó rất ít người có quyền sở hữu.
Nhưng nghịch lý thay, một xu hướng ngược lại sẽ diễn ra song song.
Những đột phá về AI đã xâm nhập vào các kho lưu trữ mã nguồn mở trong
vòng vài ngày kể từ khi được xuất bản trên các tạp chí truy cập mở,
giúp bất kỳ ai cũng có thể dễ dàng truy cập, thử nghiệm, xây dựng và
sửa đổi các mô hình topflight. Các mô hình có trọng lượng nhỏ đều được
xuất bản, rò rỉ và đánh cắp.
Các công ty như Stability AI và Hugging Face tăng tốc các dạng AI
phân tán, phi tập trung. Các kỹ thuật như CRISPR làm cho thí nghiệm
sinh học trở nên dễ dàng hơn, có nghĩa là các tin tặc sinh học trong
gara của họ có thể mày mò khám phá giới hạn tuyệt đối của khoa học.
Cuối cùng, việc chia sẻ hoặc sao chép DNA hoặc mã của một mô hình ngôn
ngữ lớn là chuyện nhỏ. Sự cởi mở là mặc định, sự bắt chước là đặc hữu,
đường cong chi phí không ngừng giảm xuống và các rào cản tiếp cận sụp
đổ. Khả năng cấp số nhân được trao cho bất cứ ai muốn chúng.
Điều này báo trước một sự phân phối lại quyền lực khổng lồ ra khỏi các trung
tâm hiện có. Hãy tưởng tượng một tương lai nơi các nhóm nhỏ—dù ở các quốc gia
đang thất bại như Lebanon hay trong các trại du mục không có lưới điện ở New
Mexico— cung cấp các dịch vụ được hỗ trợ bởi AI như hiệp hội tín dụng, trường
học và chăm sóc sức khỏe, các dịch vụ ở trung tâm cộng đồng thường phụ thuộc
vào quy mô hoặc nhà nước. Nơi mà cơ hội thiết lập các điều kiện của xã hội ở cấp
độ vi mô trở nên không thể cưỡng lại được: hãy đến với trường học cổ điển của chúng tôi và
tránh vĩnh viễn lý thuyết chủng tộc quan trọng hoặc tẩy chay hệ thống tài chính xấu
xa và sử dụng sản phẩm DeFi của chúng tôi. Nơi mà bất kỳ nhóm nào thuộc bất kỳ loại
nào—ý thức hệ, tôn giáo, văn hóa, chủng tộc—có thể tự tổ chức một xã hội khả thi.
Hãy suy nghĩ về việc thành lập trường học của riêng bạn. Hoặc bệnh viện hoặc quân đội.
Đó là một dự án phức tạp, rộng lớn và khó khăn đến mức ngay cả việc nghĩ đến
nó cũng khiến bạn mệt mỏi. Chỉ cần thu thập các nguồn lực, nhận được giấy
phép và thiết bị cần thiết là một nỗ lực suốt đời. Bây giờ hãy xem xét việc
có một loạt trợ lý, khi được yêu cầu thành lập trường học, bệnh viện hoặc
quân đội, có thể thực hiện điều đó trong khung thời gian thực tế.
ACI và sinh học tổng hợp trao quyền cho Cuộc nổi loạn tuyệt chủng cũng
như siêu tập đoàn Dow Jones; tiểu bang với một nhà lãnh đạo có sức lôi cuốn
giống như một gã khổng lồ ì ạch. Mặc dù một số lợi thế về quy mô có thể được
tăng cường nhưng chúng cũng có thể bị vô hiệu hóa. Hãy tự hỏi điều gì sẽ xảy
ra với các quốc gia vốn đang xung đột nếu mọi giáo phái, phong trào ly khai,
quỹ từ thiện và mạng lưới xã hội, mọi kẻ cuồng tín và bài ngoại, mọi thuyết
âm mưu dân túy, đảng phái chính trị, hay thậm chí cả mafia, tập đoàn ma túy
hoặc nhóm khủng bố đều nhắm vào nhà nước. xây dựng.
Những người bị tước quyền sẽ chỉ tự tái trao quyền cho mình - theo điều kiện
riêng của họ.
Sự phân mảnh có thể xảy ra khắp nơi. Điều gì sẽ xảy ra nếu bản thân các
công ty bắt đầu hành trình trở thành quốc gia? Hay các thành phố quyết định
tách ra và giành thêm quyền tự chủ? Điều gì sẽ xảy ra nếu mọi người dành
nhiều thời gian, tiền bạc và năng lượng cảm xúc trong thế giới ảo hơn thế
giới thực? Điều gì sẽ xảy ra với các hệ thống phân cấp truyền thống khi các
công cụ có sức mạnh và chuyên môn tuyệt vời đều có sẵn cho trẻ em đường phố
cũng như các tỷ phú? Một thực tế đáng chú ý là các tập đoàn khổng lồ dành
phần lớn cuộc đời của họ để làm việc trên phần mềm, như Gmail hoặc Excel, mà
hầu hết mọi người trên hành tinh đều có thể truy cập được. Hãy mở rộng điều
đó một cách triệt để bằng việc dân chủ hóa trao quyền, khi mọi người trên
hành tinh đều có quyền truy cập tự do vào những công nghệ mạnh mẽ nhất từng được tạo ra.
—
khi mọi người ngày càng nắm quyền lực trong tay mình, tôi cho rằng ranh giới mới nhất
của sự bất bình đẳng nằm ở sinh học. Một thế giới bị phân mảnh là một thế giới mà
một số khu vực pháp lý dễ dàng hơn nhiều đối với việc thử nghiệm trên con người so
với các khu vực khác, trong đó các nhóm khả năng sinh học tiên tiến và khả năng tự
sửa đổi tạo ra các kết quả khác nhau ở cấp độ DNA, từ đó tạo ra các kết quả khác nhau
ở cấp độ tiểu bang và trạng thái vi mô. Sau đó có thể xảy ra điều gì đó giống như
một cuộc chạy đua vũ trang nâng cao cá nhân về tấn công sinh học. Một quốc gia khao
khát đầu tư hoặc lợi thế có thể nhìn thấy tiềm năng trở thành thiên đường của hacker
sinh học. Hợp đồng xã hội sẽ trông như thế nào nếu một nhóm “hậu nhân loại” được chọn
tự thiết kế bản thân họ đến một bình diện vật chất hoặc trí tuệ không thể tiếp cận
nào đó? Điều này sẽ giao thoa như thế nào với động lực của sự phân mảnh chính trị,
một số vùng cố gắng bỏ lại toàn bộ phía sau?
Tất cả những điều này vẫn còn chắc chắn trong lĩnh vực đầu cơ. Nhưng chúng ta
đang bước vào một kỷ nguyên mới, nơi mà những điều không thể tưởng tượng được trước
đây giờ đây đã trở thành một khả năng rõ ràng. Theo quan điểm của tôi, việc chớp mắt
về những gì đang xảy ra còn nguy hiểm hơn là suy đoán quá mức.
Quản trị hoạt động theo sự đồng thuận; nó là một sự hư cấu tập thể dựa trên niềm
tin của tất cả những người có liên quan. Trong kịch bản này, quốc gia có chủ quyền
bị áp lực đến mức tan vỡ. Khế ước xã hội cũ bị xé nát thành từng mảnh. Các thể chế
bị bỏ qua, làm suy yếu, bị thay thế. Thuế, thực thi pháp luật, tuân thủ các quy định:
tất cả đều bị đe dọa. Trong kịch bản này, sự phân chia quyền lực nhanh chóng có thể
đẩy nhanh một kiểu “tăng tốc-Balkan hóa” mang lại cho các chủ thể nhanh nhẹn và mới
có năng lực quyền tự do hoạt động chưa từng có. Việc tách rời sự hợp nhất lớn lao
của quyền lực và dịch vụ do nhà nước thể hiện bắt đầu.
Một cái gì đó giống thế giới tiền quốc gia hơn xuất hiện trong kịch bản này, tân
trung cổ, nhỏ hơn, địa phương hơn và đa dạng về hiến pháp, một sự chắp vá phức tạp,
không ổn định của các chính thể. Chỉ lần này với công nghệ cực kỳ mạnh mẽ. Khi miền
bắc nước Ý là sự chắp vá của các thành bang nhỏ, nó đã mang lại cho chúng ta thời kỳ
Phục hưng, tuy nhiên

cũng là nơi thường xuyên xảy ra chiến tranh và thù hận. Phục hưng thật
tuyệt vời; chiến tranh không ngừng với công nghệ quân sự của ngày mai,
không quá nhiều.
Đối với nhiều người làm việc trong hoặc gần công nghệ, những loại kết
quả căn bản này không chỉ là sản phẩm phụ không được chào đón; bản thân
chúng là mục tiêu. Các nhà công nghệ theo chủ nghĩa siêu tự do như người
sáng lập PayPal và nhà đầu tư mạo hiểm Peter Thiel tán dương tầm nhìn về
việc nhà nước đang lụi tàn, coi đây là sự giải phóng cho một loại lãnh đạo
doanh nghiệp hùng mạnh hoặc “các cá nhân có chủ quyền”, như họ tự gọi mình.
Một loạt các dịch vụ công, thể chế và chuẩn mực được cổ vũ bằng một tầm
nhìn rõ ràng trong đó công nghệ có thể “tạo không gian cho các phương thức
bất đồng chính kiến mới và những cách thức mới để hình thành các cộng đồng
không bị giới hạn bởi các quốc gia-quốc gia lịch sử”.
Phong trào tự do-kỹ thuật đã đưa câu châm ngôn “Chính phủ là vấn đề” năm
1981 của Ronald Reagan đến cực điểm logic của nó, nhìn thấy nhiều sai sót của
chính phủ nhưng không thấy được lợi ích to lớn của nó, tin rằng các chức năng
quản lý và thuế của nó là những công cụ hạn chế tỷ lệ hủy diệt với rất ít lợi
ích—ít nhất là đối với họ . Tôi thấy vô cùng thất vọng khi một số người có
quyền lực và đặc quyền nhất lại có quan điểm hạn hẹp và mang tính hủy diệt
như vậy, nhưng điều đó càng tạo thêm động lực cho sự phân mảnh.
Đây là một thế giới nơi các tỷ phú và các nhà tiên tri ngày sau có
thể xây dựng và điều hành các tiểu bang; nơi các tác nhân phi nhà nước
từ các tập đoàn, công xã cho đến các thuật toán bắt đầu làm lu mờ nhà
nước từ trên cao cũng như từ bên dưới. Hãy nghĩ lại về chiếc bàn đạp
ngựa và những tác động sâu sắc của một phát minh đơn giản. Và sau đó
hãy nghĩ đến quy mô phát minh trong làn sóng sắp tới. Cùng với những
áp lực và sự mong manh hiện có, sự thay đổi sâu rộng theo thứ tự suy
đoán của tôi ở trên dường như không quá xa vời. Điều kỳ lạ là không
có sự thay đổi căn bản nào cả.
SÓNG SỚM TỚI

Mâu thuẫn
Nếu việc tập trung hóa và phân quyền nghe có vẻ như chúng mâu thuẫn trực
tiếp với nhau thì đó là lý do chính đáng: chúng đúng như vậy. Hiểu được
tương lai có nghĩa là xử lý nhiều quỹ đạo xung đột cùng một lúc. Làn sóng
sắp tới sẽ đồng thời tạo ra các đợt sóng lớn tập trung và phân cấp. Cả hai
sẽ được chơi cùng một lúc. Mọi cá nhân, mọi doanh nghiệp, mọi nhà thờ, mọi
tổ chức phi lợi nhuận, mọi quốc gia cuối cùng sẽ có AI của riêng mình và
cuối cùng là khả năng sinh học và robot của riêng mình. Từ một cá nhân ngồi
trên ghế sofa cho đến các tổ chức lớn nhất thế giới, mỗi AI sẽ hướng tới
việc đạt được mục tiêu của chủ nhân. Ở đây có chìa khóa để hiểu được làn
sóng mâu thuẫn sắp tới, một làn sóng đầy va chạm.
Mỗi cách hình thành quyền lực mới sẽ đưa ra một tầm nhìn khác nhau về
việc cung cấp hàng hóa công cộng, hoặc đề xuất một cách khác để tạo ra sản
phẩm hoặc một tập hợp tín ngưỡng tôn giáo khác để truyền giáo. Các hệ thống
AI đã đưa ra những quyết định quan trọng với những hàm ý chính trị rõ ràng:
ai nhận được một khoản vay, một công việc, một suất vào trường đại học,
được tạm tha; người được bác sĩ cấp cao khám. Trong thập kỷ này, AI sẽ quyết
định tiền công được chi tiêu như thế nào, lực lượng quân sự được phân bổ ở
đâu hoặc học sinh nên học những gì. Điều này sẽ xảy ra theo cả cách tập
trung hóa và phi tập trung hóa. Ví dụ, một AI có thể hoạt động như một hệ
thống lớn, trải rộng trên toàn trạng thái, một tiện ích có mục đích chung
duy nhất quản lý hàng trăm triệu. Tương tự, chúng ta cũng sẽ có những hệ
thống có khả năng vượt trội, sẵn có với chi phí thấp, nguồn mở, có khả năng
thích ứng cao, phục vụ cho một ngôi làng.
Nhiều cấu trúc sở hữu sẽ tồn tại song song: công nghệ được dân chủ hóa
trong các tập thể nguồn mở, sản phẩm của các nhà lãnh đạo công ty ngày nay
hoặc các công ty khởi nghiệp mở rộng quy mô chớp nhoáng và chính phủ nắm
giữ, cho dù thông qua quốc hữu hóa hay nuôi dưỡng nội bộ. Tất cả sẽ cùng
tồn tại và cùng phát triển, và ở mọi nơi chúng sẽ thay đổi, phóng đại, sản
sinh và phá vỡ các dòng chảy và mạng lưới quyền lực.
Các lực lượng sẽ diễn ra ở đâu và như thế nào sẽ thay đổi đáng kể tùy theo các yếu tố
chính trị và xã hội hiện có. Đây không phải là một bức tranh đơn giản hóa quá mức, và sẽ
có rất nhiều điểm phản kháng và sự thích ứng không thể hiện rõ trước được. Một số lĩnh
vực hoặc khu vực sẽ đi theo hướng này, một số lĩnh vực hoặc khu vực khác sẽ chứng kiến sự
biến đổi mạnh mẽ của cả hai. Một số hệ thống phân cấp và cấu trúc xã hội sẽ được củng cố,
một số khác sẽ bị lật đổ; một số nơi có thể trở nên bình đẳng hơn hoặc độc đoán hơn,
những nơi khác thì ít hơn nhiều. Trong mọi trường hợp, căng thẳng và biến động gia tăng,
sự khuếch đại quyền lực không thể đoán trước, sự gián đoạn nặng nề của các trung tâm năng
lực mới, sẽ làm căng thẳng hơn nữa nền tảng của hệ thống nhà nước-dân chủ tự do.
Và nếu bức tranh này nghe có vẻ quá kỳ lạ, nghịch lý và không thể thực hiện được thì
hãy xem xét điều này. Làn sóng sắp tới sẽ chỉ làm sâu sắc thêm và tóm tắt lại động lực
mâu thuẫn giống hệt của làn sóng trước.
Internet thực hiện chính xác điều này: tập trung vào một số trung tâm quan trọng đồng
thời trao quyền cho hàng tỷ người. Nó tạo ra những người khổng lồ nhưng vẫn mang đến cho
mọi người cơ hội tham gia. Phương tiện truyền thông xã hội đã tạo ra một vài người khổng
lồ và một triệu bộ lạc. Mọi người đều có thể xây dựng một trang web, nhưng chỉ có một
Google. Mọi người đều có thể bán sản phẩm thích hợp của riêng mình, nhưng chỉ có một
Amazon. Và cứ tiếp tục như vậy. Sự gián đoạn của kỷ nguyên internet phần lớn được giải
thích bởi sự căng thẳng này, sự trao quyền và kiểm soát mạnh mẽ, dễ cháy này.
Giờ đây, với làn sóng sắp tới, những thế lực như thế này sẽ mở rộng ra ngoài internet
và lĩnh vực kỹ thuật số. Áp dụng chúng vào bất kỳ lĩnh vực nào của cuộc sống. Đúng vậy,
công thức tạo ra sự thay đổi mạnh mẽ này là công thức mà chúng tôi đã từng thấy trước đây.
Nhưng nếu Internet có vẻ lớn thì cái này còn lớn hơn. Các công nghệ có mục đích chung
được sử dụng rộng rãi sẽ thay đổi cả xã hội và ý nghĩa của con người. Điều này nghe có vẻ
cường điệu. Nhưng trong thập kỷ tới, chúng ta phải dự đoán được dòng chảy cấp tiến, sự
tập trung và phân tán mới của thông tin, của cải và trên hết là quyền lực.
Vì vậy, nó để lại công nghệ ở đâu và quan trọng hơn nhiều, nó để lại chúng ta ở đâu?
Điều gì sẽ xảy ra nếu nhà nước không còn có thể kiểm soát làn sóng sắp tới một cách cân
bằng? Cho đến phần 3,

chúng ta đã thảo luận về tình trạng vốn đã bấp bênh của quốc gia-dân tộc hiện đại và
xem trước những mối đe dọa mới xuất hiện cùng với làn sóng sắp tới. Chúng ta đã thấy
một tập hợp các yếu tố gây căng thẳng và sự tái phân bổ quyền lực khổng lồ sẽ hội tụ
như thế nào để đưa một lực lượng có khả năng quản lý làn sóng—nhà nước—đến điểm khủng
hoảng.
Khoảnh khắc đó đã gần đến rồi. Được gây ra bởi sự phát triển không thể tránh khỏi
của công nghệ và sự kết thúc của các quốc gia, cuộc khủng hoảng này sẽ mang hình thức
của một ràng buộc to lớn, ở cấp độ tồn tại, một tập hợp các lựa chọn tàn bạo và sự
đánh đổi đại diện cho tình thế tiến thoái lưỡng nan quan trọng nhất của thế kỷ XXI. .
Để lại cho chúng ta không có lựa chọn tốt nào sẽ là thất bại cuối cùng của công
nghệ. Tuy nhiên, đây chính xác là nơi chúng ta đang hướng tới.
CHƯƠNG 12
TIẾN THOÁI LƯỠNG NAN
THA M KHỐC:
SỰ THẤT BẠI TUYỆT VỜI
Các lịch sử nhân loại một phần là lịch sử của thảm họa.
Đại dịch diễn ra rộng rãi. Hai vụ đã giết chết tới 30% dân số thế
giới: Bệnh dịch hạch Justinian thế kỷ thứ sáu và Cái chết đen thế
kỷ mười bốn. Dân số nước Anh là bảy triệu người vào năm 1300, nhưng
đến năm 1450, bị đè bẹp bởi những đợt bệnh dịch, dân số đã giảm
xuống chỉ còn hai triệu.
Tất nhiên, thảm họa cũng do con người tạo ra. Chiến tranh thế giới
thứ nhất đã giết chết khoảng 1% dân số toàn cầu; Thế chiến II, 3 phần trăm.
Hoặc hãy xem bạo lực do Thành Cát Tư Hãn và quân đội Mông Cổ gây ra
trên khắp Trung Quốc và Trung Á vào thế kỷ 13, đã cướp đi sinh mạng
của tới 10% dân số thế giới. Với sự ra đời của bom nguyên tử, loài
người hiện đã sở hữu đủ lực sát thương để giết chết tất cả mọi người
trên hành tinh này nhiều lần. Những sự kiện thảm khốc từng diễn ra
trong nhiều năm và nhiều thập kỷ có thể xảy ra trong vài phút, chỉ
bằng một nút nhấn.
Với làn sóng sắp tới, chúng ta sẵn sàng thực hiện thêm một bước
nhảy vọt nữa, mở rộng cả giới hạn trên của rủi ro và số lượng con
đường có sẵn cho những kẻ đang tìm cách giải phóng sức mạnh thảm khốc.
Trong chương này, chúng tôi vượt qua sự mong manh và các mối đe dọa
đối với hoạt động của nhà nước và dự tính điều gì sẽ xảy ra - sớm hay
muộn - nếu không thể ngăn chặn được.
Phần lớn các công nghệ này sẽ được sử dụng cho mục đích tốt. Mặc dù tôi đã
tập trung vào những rủi ro của chúng, nhưng điều quan trọng cần nhớ là chúng
sẽ cải thiện cuộc sống của vô số người hàng ngày. Trong chương này, chúng ta
đang xem xét các trường hợp cực đoan mà hầu như không ai muốn thấy, nhất là
những người làm việc với các công cụ này. Tuy nhiên, chỉ vì chúng sẽ chiếm
thiểu số trong các trường hợp sử dụng không có nghĩa là chúng ta có thể bỏ
qua chúng. Chúng ta đã thấy rằng những kẻ xấu có thể gây ra thiệt hại nghiêm
trọng, gây ra sự bất ổn trên diện rộng. Bây giờ hãy tưởng tượng khi bất kỳ
phòng thí nghiệm hoặc hacker kém năng lực nào cũng có thể tổng hợp các chuỗi DNA phức tạp.
Bao lâu trước khi thảm họa xảy ra?
Cuối cùng, khi một số công nghệ mạnh mẽ nhất trong lịch sử lan tràn khắp
mọi nơi, những trường hợp nguy hiểm đó sẽ có nhiều khả năng xảy ra hơn.
Cuối cùng, sẽ có điều gì đó không ổn—ở quy mô và tốc độ tương xứng với khả
năng được giải phóng. Kết quả cuối cùng của bốn đặc điểm của làn sóng sắp tới
là nếu không có các phương pháp ngăn chặn mạnh mẽ ở mọi cấp độ thì những kết
quả thảm khốc như một đại dịch được thiết kế có thể xảy ra hơn bao giờ hết.
Điều đó là không thể chấp nhận được. Tuy nhiên, đây là vấn đề nan giải:
các giải pháp ngăn chặn an toàn nhất đều không thể chấp nhận được, dẫn nhân
loại đi theo con đường độc tài và lạc hậu.
Một mặt, các xã hội có thể hướng tới loại hình giám sát tổng thể được hỗ
trợ bởi công nghệ mà chúng ta đã thấy ở chương trước, một phản ứng quyết liệt
nhằm thực thi các cơ chế cứng rắn chống lại công nghệ lạc hậu hoặc không được
kiểm soát. An ninh—với cái giá là tự do. Hoặc nhân loại có thể hoàn toàn rời
xa giới hạn công nghệ. Mặc dù không chắc chắn nhưng đó không phải là câu trả
lời. Về nguyên tắc, thực thể duy nhất có khả năng điều hướng mối ràng buộc
hiện sinh này chính là hệ thống các quốc gia-dân tộc hiện đang tan rã, bị kéo
xuống bởi chính những thế lực mà nó cần phải ngăn chặn.
Sau đó, theo thời gian, ý nghĩa của những công nghệ này sẽ thúc đẩy nhân
loại định hướng con đường giữa hai cực của thảm họa và viễn tưởng. Đây là vấn
đề nan giải cốt yếu của thời đại chúng ta.
Lời hứa của công nghệ là nó sẽ cải thiện cuộc sống, lợi ích vượt xa chi
phí và nhược điểm. Tập hợp những lựa chọn xấu xa này có nghĩa là lời hứa đó
đã bị đảo ngược một cách dã man.
Việc gieo rắc sự diệt vong khiến mọi người - bao gồm cả tôi - đờ đẫn.
Tại thời điểm này, bạn có thể cảm thấy cảnh giác hoặc hoài nghi. Nói về những
hậu quả thảm khốc thường dẫn đến sự chế giễu: những lời buộc tội về thảm họa,
sự tiêu cực buông thả, sự báo động chói tai, cái nhìn chằm chằm vào những rủi
ro xa xôi và hiếm hoi khi có rất nhiều mối nguy hiểm rõ ràng và hiện tại đang
kêu gọi sự chú ý. Giống như chủ nghĩa lạc quan về công nghệ đến nghẹt thở, chủ
nghĩa thảm họa về công nghệ đến nghẹt thở rất dễ bị coi là một hình thức cường
điệu sai lầm, lệch lạc và không được ghi chép lịch sử ủng hộ.
Nhưng chỉ vì một lời cảnh báo có ý nghĩa sâu sắc không phải là cơ sở tốt
để tự động từ chối nó. Sự tự mãn bi quan và ác cảm chào đón viễn cảnh thảm
họa tự nó là công thức dẫn đến thảm họa. Nó có vẻ hợp lý, hợp lý theo cách
riêng của nó, “thông minh” khi bác bỏ những cảnh báo như lời nói huyên thuyên
quá mức của một số kẻ lập dị, nhưng thái độ này lại chuẩn bị đường cho sự
thất bại của chính nó.
Không còn nghi ngờ gì nữa, rủi ro công nghệ sẽ đưa chúng ta vào lãnh thổ không chắc chắn.
Tuy nhiên, tất cả các xu hướng đều chỉ ra rất nhiều rủi ro. Suy đoán này dựa
trên cơ sở những cải tiến khoa học và công nghệ không ngừng kết hợp. Tôi tin
rằng những người bác bỏ thảm họa đang đánh giá thấp những sự thật khách quan
trước mắt chúng ta. Suy cho cùng, ở đây chúng ta không nói về sự phát triển
của xe máy hay máy giặt.
GIỐNG THẢM HỌA
Để biết chúng ta nên chuẩn bị cho những tổn hại thảm khốc nào, chỉ cần ngoại
suy các cuộc tấn công của kẻ xấu mà chúng ta đã thấy ở chương 10. Sau đây chỉ
là một vài tình huống hợp lý.
Những kẻ khủng bố gắn vũ khí tự động được trang bị nhận dạng khuôn mặt
cho hàng trăm hoặc hàng nghìn máy bay không người lái tự động
mạnh mẽ, mỗi loại có khả năng nhanh chóng cân bằng lại độ giật của vũ khí, bắn từng
loạt ngắn và tiếp tục. Những máy bay không người lái này được tung ra trên một trung
tâm thành phố lớn với hướng dẫn tiêu diệt một hồ sơ cụ thể. Trong giờ cao điểm bận rộn,
những chiếc xe này sẽ hoạt động với hiệu quả đáng kinh ngạc, đi theo lộ trình tối ưu
quanh thành phố. Trong vài phút nữa sẽ có một cuộc tấn công ở quy mô lớn hơn nhiều so
với vụ tấn công ở Mumbai năm 2008, chứng kiến những kẻ khủng bố có vũ trang đi lang
thang qua các địa danh của thành phố như ga xe lửa trung tâm.
Một kẻ giết người hàng loạt quyết định tấn công một cuộc biểu tình chính trị lớn
bằng máy bay không người lái, thiết bị phun thuốc và mầm bệnh riêng. Chẳng bao lâu sau,
những người tham dự sẽ bị ốm, sau đó là gia đình họ. Diễn giả, một cột thu lôi chính
trị được nhiều người yêu mến và cũng bị ghét bỏ, là một trong những nạn nhân đầu tiên.
Trong bầu không khí đảng phái sôi sục, một cuộc tấn công như thế này đã gây ra những
cuộc trả thù bạo lực trên khắp đất nước và gây ra sự hỗn loạn.
Chỉ sử dụng hướng dẫn ngôn ngữ tự nhiên, một kẻ âm mưu thù địch ở Mỹ đã phổ biến
hàng loạt thông tin sai lệch được xây dựng một cách phẫu thuật và gây chia rẽ. Nhiều nỗ
lực đã được thực hiện, hầu hết đều không đạt được lực kéo. Cuối cùng người ta cũng phát
hiện ra: một vụ giết người của cảnh sát ở Chicago.
Nó hoàn toàn là giả, nhưng rắc rối trên đường phố, sự phản đối lan rộng là có thật.
Những kẻ tấn công bây giờ có một playbook. Vào thời điểm video được xác minh là lừa
đảo, các cuộc bạo loạn bạo lực với nhiều thương vong đã diễn ra khắp đất nước, các vụ
hỏa hoạn liên tục bùng phát bởi những luồng thông tin sai lệch mới.
Hoặc tưởng tượng tất cả những điều đó xảy ra cùng một lúc. Hoặc không chỉ ở một sự
kiện hay ở một thành phố, mà ở hàng trăm địa điểm. Với những công cụ như thế này, không
cần quá nhiều thời gian để nhận ra rằng việc trao quyền cho kẻ xấu sẽ mở ra cánh cửa
dẫn đến thảm họa. Các hệ thống AI ngày nay cố gắng hết sức để không cho bạn biết cách
đầu độc nguồn nước hoặc chế tạo một quả bom không thể phát hiện được. Họ chưa có khả
năng tự mình xác định hoặc theo đuổi mục tiêu.
Tuy nhiên, như chúng ta đã thấy, cả hai phiên bản phổ biến rộng rãi hơn và kém an toàn
hơn của các mô hình tiên tiến hơn và mạnh mẽ hơn ngày nay đều đang ra đời một cách
nhanh chóng.
Trong số tất cả các rủi ro thảm khốc từ làn sóng sắp tới, AI nhận được nhiều
sự quan tâm nhất. Nhưng còn nhiều hơn thế nữa. Một khi quân đội được tự động hóa
hoàn toàn, các rào cản gia nhập xung đột sẽ thấp hơn nhiều. Một cuộc chiến có thể
vô tình nổ ra vì những lý do mãi mãi vẫn chưa rõ ràng, AI phát hiện một số kiểu
hành vi hoặc mối đe dọa và sau đó phản ứng ngay lập tức với lực lượng áp đảo.
Đủ để nói, bản chất của cuộc chiến đó có thể là xa lạ, leo thang nhanh chóng và
có những hậu quả tàn khốc vượt trội.
Chúng ta đã từng gặp những đại dịch được thiết kế và sự nguy hiểm của việc vô
tình phóng thích, đồng thời thoáng thấy điều gì sẽ xảy ra khi hàng triệu người
đam mê cải thiện bản thân có thể thử nghiệm mã di truyền của sự sống. Không thể
xem nhẹ một sự kiện rủi ro sinh học cực đoan thuộc loại ít rõ ràng hơn, nhắm vào
một bộ phận dân cư nhất định hoặc phá hoại hệ sinh thái. Hãy tưởng tượng các nhà
hoạt động muốn ngăn chặn việc buôn bán cocaine phát minh ra một loại côn trùng
mới chỉ nhắm vào cây coca như một cách để thay thế việc khử trùng trên không.
Hoặc nếu những người ăn chay quyết định phá vỡ toàn bộ chuỗi cung ứng thịt, với
những hậu quả thảm khốc và không lường trước được. Hoặc có thể vượt khỏi tầm kiểm
soát.
Chúng ta biết một vụ rò rỉ trong phòng thí nghiệm có thể trông như thế nào
trong bối cảnh tính dễ vỡ ngày càng gia tăng, nhưng nếu nó không nhanh chóng được
kiểm soát, nó sẽ xếp ngang hàng với các trận dịch trước đó. Để đặt điều này trong
bối cảnh, biến thể omicron của COVID đã lây nhiễm một phần tư số người Mỹ trong
vòng một trăm ngày kể từ lần đầu tiên được xác định. Điều gì sẽ xảy ra nếu chúng
ta gặp phải một đại dịch có tỷ lệ tử vong là 20% nhưng với khả năng lây truyền như vậy?
Hoặc điều gì sẽ xảy ra nếu đó là một loại virus HIV qua đường hô hấp ủ bệnh trong
nhiều năm mà không có triệu chứng cấp tính? Một loại vi-rút mới có thể lây truyền
sang người với tỷ lệ sinh sản là 4 (thấp hơn nhiều so với bệnh thủy đậu hoặc sởi)
và tỷ lệ tử vong trong trường hợp là 50% (thấp hơn nhiều so với Ebola hoặc cúm
gia cầm), thậm chí có thể gây ra nhiều hậu quả hơn. hơn một tỷ người chết chỉ
trong vài tháng. Điều gì sẽ xảy ra nếu nhiều mầm bệnh như vậy được phát tán cùng
một lúc? Điều này vượt xa sự khuếch đại về tính dễ vỡ; đó sẽ là một tai họa khôn
lường.
Ngoài những lời sáo rỗng của Hollywood, một nhóm văn hóa gồm các nhà
nghiên cứu hàn lâm đã đưa ra một câu chuyện cực đoan về cách AI có thể
gây ra một thảm họa hiện hữu. Hãy nghĩ đến một cỗ máy toàn năng bằng cách
nào đó đang hủy diệt thế giới vì mục đích bí ẩn của riêng nó: không phải
một AI ác tính nào đó cố ý phá hủy như trong phim, mà là một AGI quy mô
đầy đủ tối ưu hóa một cách mù quáng cho một mục tiêu mờ ám, không để ý
đến những lo lắng của con người.
Thử nghiệm tư duy kinh điển là nếu bạn thiết lập một AI đủ mạnh để
tạo ra những chiếc kẹp giấy nhưng không xác định đủ mục tiêu một cách
cẩn thận, thì cuối cùng nó có thể biến thế giới và thậm chí có thể cả
nội dung của toàn bộ vũ trụ thành những chiếc kẹp giấy. Bắt đầu theo
dõi các chuỗi logic như thế này và vô số chuỗi các sự kiện đáng lo ngại
được giải mã. Các nhà nghiên cứu về an toàn AI lo lắng (một cách chính
xác) rằng nếu thứ gì đó như AGI được tạo ra, nhân loại sẽ không còn
kiểm soát được vận mệnh của chính mình nữa. Lần đầu tiên, chúng ta sẽ
bị lật đổ với tư cách là loài thống trị trong vũ trụ đã biết. Dù các
nhà thiết kế thông minh đến đâu, các cơ chế an toàn mạnh mẽ đến đâu,
tính đến mọi tình huống có thể xảy ra, đảm bảo an toàn là điều không
thể. Ngay cả khi nó hoàn toàn phù hợp với lợi ích của con người, một AI
đủ mạnh có thể có khả năng ghi đè lên chương trình của nó, loại bỏ các
tính năng an toàn và căn chỉnh rõ ràng đã được tích hợp sẵn.
Theo dòng suy nghĩ này, tôi thường nghe mọi người nói điều gì đó đại
loại như “AGI là rủi ro lớn nhất mà nhân loại phải đối mặt ngày nay! Nó
sẽ kết thúc thế giới!” Nhưng khi nhấn mạnh vào việc điều này thực sự trông
như thế nào, điều này thực sự diễn ra như thế nào, họ trở nên lảng tránh,
các câu trả lời mơ hồ, mối nguy hiểm chính xác là mơ hồ. Họ nói rằng AI
có thể sử dụng hết tất cả tài nguyên tính toán và biến cả thế giới thành
một chiếc máy tính khổng lồ. Khi AI ngày càng trở nên mạnh mẽ hơn, những
tình huống cực đoan nhất sẽ cần được xem xét và giảm thiểu một cách nghiêm túc.
Tuy nhiên, trước khi chúng ta đến đó, nhiều điều có thể xảy ra.
Trong mười năm tới, AI sẽ là công cụ khuếch đại lực lớn nhất trong lịch
sử. Đây là lý do tại sao nó có thể cho phép tái phân phối quyền lực trên quy
mô lịch sử. Là chất thúc đẩy sự tiến bộ lớn nhất của con người có thể tưởng
tượng được, nó cũng sẽ gây ra những tổn hại - từ chiến tranh và tai nạn đến
các nhóm khủng bố ngẫu nhiên, các chính phủ độc tài, các tập đoàn hoạt động
quá mức, trộm cắp đơn thuần và cố ý phá hoại. Hãy nghĩ về một ACI có khả
năng dễ dàng vượt qua Bài kiểm tra Turing hiện đại nhưng lại đi đến kết cục
thảm khốc. AI tiên tiến và sinh học tổng hợp sẽ không chỉ dành cho các nhóm
tìm kiếm nguồn năng lượng mới hoặc thuốc thay đổi cuộc sống; chúng cũng sẽ
có sẵn cho Ted Kaczynski tiếp theo.
AI vừa có giá trị vừa nguy hiểm bởi vì nó là phần mở rộng của bản thân
tốt nhất và tồi tệ nhất của chúng ta. Và là một công nghệ dựa trên việc học
tập, nó có thể tiếp tục thích ứng, thăm dò, tạo ra các chiến lược và ý tưởng
mới có khả năng vượt xa mọi thứ trước đây được xem xét, ngay cả với các AI
khác. Yêu cầu nó đề xuất các cách để cắt đứt nguồn cung cấp nước ngọt, hoặc
làm sụp đổ thị trường chứng khoán, hoặc gây ra một cuộc chiến tranh hạt
nhân, hoặc tạo ra loại virus tối thượng, và nó sẽ làm được. Sớm. Thậm chí
còn hơn cả lo lắng về những công cụ tối đa hóa kẹp giấy mang tính đầu cơ
hoặc một con quỷ độc ác, kỳ lạ nào đó, tôi còn lo lắng về những lực lượng
hiện có mà công cụ này sẽ khuếch đại trong mười năm tới.
Hãy tưởng tượng các tình huống trong đó AI kiểm soát lưới năng lượng,
lập trình truyền thông, nhà máy điện, máy bay hoặc tài khoản giao dịch cho
các công ty tài chính lớn. Khi robot có mặt khắp nơi và quân đội được trang
bị vũ khí tự động gây chết người — những kho chứa đầy công nghệ có thể thực
hiện hành vi giết người hàng loạt tự động chỉ bằng một nút nhấn — thì một
vụ hack do một AI khác phát triển sẽ trông như thế nào? Hoặc xem xét các
dạng lỗi cơ bản hơn, không phải tấn công mà là lỗi đơn giản. Điều gì sẽ xảy
ra nếu AI mắc lỗi trong cơ sở hạ tầng cơ bản hoặc hệ thống y tế được sử dụng
rộng rãi bắt đầu gặp trục trặc? Không khó để thấy có bao nhiêu đặc vụ gần
như tự chủ, có năng lực, đang lỏng lẻo, ngay cả những người theo đuổi các
mục tiêu có thiện chí nhưng không đúng hình thức, có thể gây ra sự tàn phá.
Chúng ta vẫn chưa biết ý nghĩa của AI đối với các lĩnh vực đa dạng như nông
nghiệp, hóa học, phẫu thuật và tài chính. Đó là một phần của
vấn đề; chúng tôi không biết những chế độ sai sót nào đang được đưa ra và chúng có thể
kéo dài đến mức nào.
Không có sổ tay hướng dẫn cách xây dựng công nghệ trong làn sóng sắp tới một cách
an toàn. Chúng ta không thể xây dựng các hệ thống quyền lực leo thang và nguy hiểm để
thử nghiệm trước. Chúng ta không thể biết AI có thể tự cải thiện nhanh đến mức nào hoặc
điều gì sẽ xảy ra sau một tai nạn trong phòng thí nghiệm với một số công nghệ sinh học
chưa được phát minh. Chúng ta không thể biết kết quả từ ý thức của con người được cắm
trực tiếp vào máy tính hoặc vũ khí mạng hỗ trợ AI có ý nghĩa gì đối với cơ sở hạ tầng
quan trọng hoặc ổ đĩa gen sẽ hoạt động như thế nào trong tự nhiên.
Một khi các máy tự động tiến hóa nhanh, tự lắp ráp hoặc các tác nhân sinh học mới được
giải phóng ra ngoài tự nhiên, sẽ không có chuyện tua lại đồng hồ.
Sau một thời điểm nhất định, ngay cả sự tò mò và mày mò cũng có thể trở nên nguy hiểm.
Ngay cả khi bạn tin rằng khả năng xảy ra thảm họa là thấp, thì việc chúng ta đang hoạt
động mù quáng cũng sẽ khiến bạn phải tạm dừng.
Bản thân việc xây dựng công nghệ an toàn và khép kín cũng chưa đủ.
Giải quyết vấn đề liên kết AI không có nghĩa là làm như vậy một lần; điều đó có nghĩa
là thực hiện điều đó mỗi khi một AI đủ mạnh được xây dựng, ở bất cứ đâu và bất cứ khi
nào điều đó xảy ra. Bạn không chỉ cần giải quyết vấn đề rò rỉ phòng thí nghiệm trong
một phòng thí nghiệm; bạn cần giải quyết nó trong mọi phòng thí nghiệm, ở mọi quốc gia,
mãi mãi, ngay cả khi chính những quốc gia đó đang phải chịu căng thẳng chính trị nghiêm
trọng. Một khi công nghệ đạt đến khả năng quan trọng, việc những người tiên phong ban
đầu chỉ xây dựng nó một cách an toàn là chưa đủ, vì điều đó chắc chắn là đầy thách thức.
Đúng hơn, sự an toàn thực sự đòi hỏi phải duy trì các tiêu chuẩn đó trong mọi trường
hợp: một kỳ vọng khổng lồ khi xét đến mức độ lan truyền nhanh chóng và rộng rãi của
những tiêu chuẩn này.
Đây là điều xảy ra khi bất kỳ ai cũng được tự do phát minh hoặc sử dụng các công cụ
có ảnh hưởng đến tất cả chúng ta. Và chúng ta không chỉ nói về việc tiếp cận với máy in
hay động cơ hơi nước, những điều phi thường như vậy. Chúng ta đang nói về những sản phẩm
đầu ra có đặc tính mới về cơ bản: hợp chất mới, sự sống mới, loài mới.
Nếu làn sóng không bị ngăn chặn thì đó chỉ là vấn đề thời gian. Cho phép khả năng
xảy ra tai nạn, sai sót, sử dụng có mục đích xấu, tiến hóa vượt quá khả năng của con người
khống chế, đủ loại hậu quả khó lường. Ở một giai đoạn nào đó, dưới hình thức
nào đó, điều gì đó, ở đâu đó, sẽ thất bại. Và đây sẽ không phải là Bhopal hay
thậm chí là Chernobyl; nó sẽ diễn ra trên phạm vi toàn thế giới. Đây phần lớn
sẽ là di sản của các công nghệ được sản xuất với mục đích tốt nhất.
Tuy nhiên, không phải ai cũng có chung những ý định đó.
TÁC GIÁO, NGƯỜI ĐINH VÀ CÁC TRẠNG THÁI TỰ TỬ
Hầu hết các rủi ro phát sinh từ những việc như nghiên cứu đạt được chức năng
là kết quả của những nỗ lực được thừa nhận và lành tính. Nói cách khác, chúng
là những tác động trả thù siêu lớn, những hậu quả không lường trước được của
mong muốn làm điều tốt. Thật không may, một số tổ chức được thành lập với động
cơ hoàn toàn ngược lại.
Được thành lập vào những năm 1980, Aum Shinrikyo (Sự thật tối cao) là một
giáo phái ngày tận thế của Nhật Bản. Nhóm có nguồn gốc từ một phòng tập yoga
dưới sự lãnh đạo của một người đàn ông tự xưng là Shoko Asahara.
Xây dựng tư cách thành viên trong số những người bất mãn, họ trở nên cực đoan
khi số lượng của họ tăng lên, tin chắc rằng ngày tận thế đã đến gần, rằng chỉ
một mình họ sẽ sống sót và rằng họ nên đẩy nhanh nó.
Asahara đã phát triển giáo phái này lên khoảng bốn mươi nghìn đến sáu mươi
nghìn thành viên, dụ dỗ một nhóm trung úy trung thành bằng mọi cách sử dụng vũ
khí sinh học và hóa học. Vào thời điểm nổi tiếng nhất của Aum Shinrikyo, người
ta ước tính nó đã nắm giữ tài sản hơn 1 tỷ USD và có hàng chục nhà khoa học
được đào tạo bài bản làm thành viên.
Mặc dù có niềm đam mê với những vũ khí khoa học viễn tưởng kỳ quái như máy tạo
động đất, súng plasma và gương để làm chệch hướng tia nắng mặt trời, chúng vẫn
là một nhóm cực kỳ tinh vi và nghiêm túc chết người.
Aum đã xây dựng các công ty giả và thâm nhập vào các phòng thí nghiệm của
trường đại học để thu mua nguyên liệu, mua đất ở Úc với mục đích thăm dò uranium
để chế tạo vũ khí hạt nhân và bắt tay vào một chương trình vũ khí sinh học và
hóa học khổng lồ ở vùng đồi núi.

vùng nông thôn ngoại ô Tokyo. Nhóm đã thử nghiệm phosgene, hydro xyanua,
soman và các chất độc thần kinh khác. Họ lên kế hoạch thiết kế và phát
hành một phiên bản nâng cao của bệnh than, tuyển dụng một nhà virus học
có trình độ sau đại học để trợ giúp. Các thành viên đã lấy chất độc thần
kinh C. botulinum và phun nó lên Sân bay Quốc tế Narita, Tòa nhà Quốc hội,
Cung điện Hoàng gia, trụ sở của một nhóm tôn giáo khác và hai căn cứ hải
quân Hoa Kỳ. May mắn thay, họ đã mắc sai lầm trong quá trình sản xuất và
không có thiệt hại nào xảy ra sau đó.
Nó không kéo dài. Năm 1994, Aum Shinrikyo rải chất độc thần kinh sarin
từ một chiếc xe tải, khiến 8 người thiệt mạng và 200 người bị thương. Một
năm sau, họ tấn công tàu điện ngầm Tokyo, phóng thích thêm chất sarin,
giết chết 13 người và làm bị thương khoảng 6.000 người. Cuộc tấn công tàu
điện ngầm, liên quan đến việc đặt các túi chứa đầy sarin xung quanh hệ
thống tàu điện ngầm, nguy hiểm hơn một phần vì không gian kín. Rất may là
không có cuộc tấn công nào sử dụng cơ chế phân phối đặc biệt hiệu quả.
Nhưng cuối cùng chỉ có may mắn mới ngăn chặn được một sự kiện còn thảm khốc hơn.
Aum Shinrikyo đã kết hợp mức độ tổ chức khác thường với mức độ tham
vọng đáng sợ. Họ muốn khơi mào Thế chiến thứ ba và gây ra sự sụp đổ toàn
cầu bằng cách giết người ở quy mô gây sốc và bắt đầu xây dựng cơ sở hạ
tầng để làm điều đó. Một mặt, điều đáng yên tâm là các tổ chức như Aum
Shinrikyo hiếm có như thế nào. Trong số nhiều vụ khủng bố và các vụ giết
người hàng loạt khác không do nhà nước gây ra kể từ những năm 1990, hầu
hết đều được thực hiện bởi những kẻ cô độc hoặc các nhóm bị xáo trộn với
các chương trình nghị sự chính trị hoặc ý thức hệ cụ thể.
Nhưng mặt khác, sự trấn an này cũng có giới hạn. Việc mua sắm vũ khí
có sức mạnh lớn trước đây là một rào cản lớn để gia nhập, giúp ngăn chặn
thảm họa. Chủ nghĩa hư vô kinh tởm của kẻ xả súng trường học bị giới hạn
bởi vũ khí mà họ có thể tiếp cận. Unabomber chỉ có các thiết bị tự chế.
Việc chế tạo và phổ biến vũ khí sinh học và hóa học là những thách thức
lớn đối với Aum Shinrikyo. Là một nhóm nhỏ cuồng tín hoạt động trong bầu
không khí bí mật hoang tưởng, với chuyên môn hạn chế và khả năng tiếp cận
tài liệu hạn chế, họ đã phạm sai lầm.
Tuy nhiên, khi làn sóng sắp tới trưởng thành, các công cụ hủy diệt, như
chúng ta đã thấy, sẽ được dân chủ hóa và hàng hóa hóa. Chúng sẽ có khả năng
và khả năng thích ứng cao hơn, có khả năng hoạt động theo những cách ngoài
tầm kiểm soát hoặc hiểu biết của con người, phát triển và nâng cấp với tốc độ
nhanh chóng, một số sức mạnh tấn công lớn nhất trong lịch sử được phổ biến rộng rãi.
May mắn thay, những người sử dụng công nghệ mới như Aum rất hiếm. Tuy
nhiên, ngay cả một Aum Shinrikyo cứ sau 50 năm cũng là quá nhiều để ngăn chặn
một sự cố có mức độ nghiêm trọng hơn vụ tấn công tàu điện ngầm. Những giáo
phái, những kẻ mất trí, những trạng thái tự tử sắp chết, tất cả đều có động
cơ và phương tiện. Như một báo cáo về ý nghĩa của Aum Shinrikyo đã nói một
cách ngắn gọn rằng: “Chúng tôi đang chơi trò roulette kiểu Nga”.
Một giai đoạn mới của lịch sử đang ở đây. Với việc các chính phủ zombie không
thể ngăn chặn công nghệ, Aum Shinrikyo tiếp theo, tai nạn công nghiệp tiếp theo,
cuộc chiến tranh của nhà độc tài điên rồ tiếp theo, vụ rò rỉ phòng thí nghiệm nhỏ
tiếp theo, sẽ có tác động khó có thể tưởng tượng được.
thật dễ để gạt bỏ tất cả những kịch bản rủi ro đen tối này như những giấc mơ
xa vời của những người lớn lên đọc quá nhiều khoa học viễn tưởng, những người
thiên về chủ nghĩa thảm họa. Hấp dẫn nhưng lại là một sai lầm.
Bất kể chúng ta đang ở đâu với các giao thức BSL-4, các đề xuất quy định hoặc
các ấn phẩm kỹ thuật về vấn đề liên kết AI, những khuyến khích đó sẽ dần biến
mất, các công nghệ vẫn tiếp tục phát triển và phổ biến. Đây không phải là nội
dung của tiểu thuyết suy đoán và loạt phim Netflix.
Điều này là có thật, đang được thực hiện ngay giây phút này tại các văn phòng và phòng thí
nghiệm trên khắp thế giới.
Tuy nhiên, những rủi ro nghiêm trọng đến mức chúng cần phải xem xét tất
cả các lựa chọn. Ngăn chặn là về khả năng kiểm soát công nghệ. Xa hơn nữa,
điều đó có nghĩa là khả năng kiểm soát con người và xã hội đằng sau nó. Khi
những tác động thảm khốc xuất hiện hoặc khả năng xảy ra của chúng trở nên
không thể bỏ qua, các điều kiện tranh luận sẽ thay đổi.
Những lời kêu gọi không chỉ kiểm soát mà còn đàn áp sẽ gia tăng. Tiềm năng cho
mức độ cảnh giác chưa từng có sẽ trở nên hấp dẫn hơn bao giờ hết.
Có lẽ có thể phát hiện và ngăn chặn các mối đe dọa mới xuất hiện? Đó
chẳng phải là điều tốt nhất—điều đúng đắn nên làm sao?
Tôi đoán tốt nhất đây sẽ là phản ứng của các chính phủ và người dân
trên toàn thế giới. Khi sức mạnh thống nhất của quốc gia-dân tộc bị đe
dọa, khi việc ngăn chặn ngày càng khó khăn, khi mạng sống bị đe dọa,
phản ứng tất yếu sẽ là siết chặt quyền lực.
Câu hỏi là, với chi phí nào?
BƯỚC CHUYỂN ĐỔI TUYỆT VỜI
Ngăn chặn thảm họa là một mệnh lệnh hiển nhiên. Thảm họa càng lớn, rủi
ro càng lớn thì nhu cầu về các biện pháp đối phó càng lớn. Nếu mối đe
dọa thảm họa trở nên quá nghiêm trọng, thì các chính phủ có thể sẽ kết
luận rằng cách duy nhất để ngăn chặn nó là kiểm soát chặt chẽ mọi khía
cạnh của công nghệ, đảm bảo rằng không có gì lọt qua hàng rào an ninh,
không có AI lừa đảo hoặc vi rút được thiết kế nào có thể thoát khỏi.
được xây dựng hoặc thậm chí đang được nghiên cứu.
Công nghệ đã thâm nhập nền văn minh của chúng ta sâu sắc đến mức xem
công nghệ có nghĩa là xem mọi thứ. Mọi phòng thí nghiệm, nhà máy và nhà
máy, mọi máy chủ, mọi đoạn mã mới, mọi chuỗi DNA được tổng hợp, mọi
doanh nghiệp và trường đại học, từ mọi hacker sinh học trong căn lều
trong rừng đến mọi trung tâm dữ liệu rộng lớn và ẩn danh. Chống lại
thiên tai trước động lực chưa từng có của làn sóng sắp tới có nghĩa là
một phản ứng chưa từng có. Nó có nghĩa là không chỉ theo dõi mọi thứ mà
còn có khả năng ngăn chặn và kiểm soát nó bất cứ khi nào và bất cứ nơi
nào cần thiết.
Một số người chắc chắn sẽ nói điều này: tập trung quyền lực ở mức độ
cao nhất, xây dựng toàn cảnh và sắp xếp chặt chẽ mọi khía cạnh của cuộc
sống để đảm bảo rằng không có đại dịch hoặc AI lừa đảo nào xảy ra. Dần
dần, nhiều quốc gia sẽ tự thuyết phục mình rằng cách duy nhất để thực sự
đảm bảo điều này là để cài đặt kiểu giám sát toàn diện mà chúng ta đã thấy ở chương
trước: kiểm soát toàn diện, được hỗ trợ bởi quyền lực cứng. Cánh cửa dẫn đến chứng
loạn thị đã mở toang. Quả thực, khi đối mặt với thảm họa, đối với một số người mắc
chứng loạn thị có thể cảm thấy như một sự giải thoát.
Những đề xuất như thế này vẫn còn xa vời, đặc biệt là ở phương Tây.
Tuy nhiên, đối với tôi, dường như chỉ là vấn đề thời gian trước khi chúng phát triển.
Làn sóng này cung cấp cả động cơ và phương tiện cho chứng loạn thị, một “chế độ chuyên
chế AI” tự củng cố nhằm tăng cường thu thập và ép buộc dữ liệu một cách đều đặn. Nếu
bạn nghi ngờ nhu cầu giám sát và kiểm soát, hãy nghĩ về việc làm thế nào việc đóng
cửa toàn xã hội, điều không thể tưởng tượng được dù chỉ vài tuần trước đó, đã đột
nhiên trở thành hiện thực không thể tránh khỏi trong đại dịch COVID. Sự tuân thủ, ít
nhất là vào thời điểm đầu, gần như phổ biến trước những lời cầu xin của các chính phủ
đang gặp khó khăn để “làm phần việc của bạn”. Sự chấp nhận của công chúng đối với các
biện pháp mạnh mẽ nhân danh sự an toàn có vẻ cao.
Một trận đại hồng thủy sẽ thúc đẩy lời kêu gọi thành lập một bộ máy giám sát cực
đoan để ngăn chặn những sự kiện như vậy trong tương lai. Nếu hoặc khi có sự cố xảy ra
với công nghệ, thì bao lâu trước khi cuộc đàn áp bắt đầu? Làm sao ai đó có thể phản
đối nó một cách chính đáng khi đối mặt với một thảm họa?
Bao lâu trước khi chứng loạn thị giám sát bén rễ, từng sợi tua leo và phát triển? Khi
các lỗi công nghệ ở quy mô nhỏ ngày càng gia tăng, nhu cầu kiểm soát sẽ tăng lên. Khi
khả năng kiểm soát tăng lên, việc kiểm tra và cân bằng được giảm bớt, mặt bằng thay
đổi và nhường chỗ cho những can thiệp tiếp theo, và một vòng xoáy đi xuống ổn định
dẫn đến chứng loạn thị kỹ thuật bắt đầu.
Đánh đổi sự tự do và an ninh là một vấn đề nan giải từ xa xưa. Nó nằm trong tài
liệu nền tảng về bang Leviathan của Thomas Hobbes. Nó chưa bao giờ biến mất. Chắc
chắn, đây thường là một mối quan hệ phức tạp và đa chiều, nhưng làn sóng sắp tới sẽ
nâng mức độ đặt cược lên một tầm cao mới. Mức độ kiểm soát xã hội nào là phù hợp để
ngăn chặn một đại dịch được thiết kế? Mức độ can thiệp nào vào các quốc gia khác là
phù hợp cho cùng một mục đích? Những hậu quả đối với quyền tự do, chủ quyền và quyền
riêng tư chưa bao giờ lại đau đớn đến thế.

Tôi tin rằng một xã hội giám sát áp bức về tính minh bạch và sự kiểm
soát tinh vi chỉ đơn giản là một thất bại khác, một cách khác mà năng lực
của làn sóng sắp tới sẽ không dẫn đến sự hưng thịnh của con người mà dẫn
đến điều ngược lại. Mọi ứng dụng cưỡng bức, thiên vị và hết sức không công
bằng sẽ bị khuếch đại lên rất nhiều. Các quyền và tự do khó giành được đã
bị đẩy lùi. Quyền tự quyết của dân tộc, đối với nhiều quốc gia, tốt nhất là
bị xâm phạm. Lần này không phải là sự mong manh mà là sự áp bức hoàn toàn
được khuếch đại. Nếu câu trả lời cho thảm họa là viễn tưởng như thế này,
thì đó không phải là một câu trả lời nào cả.
với cấu trúc giám sát và cưỡng chế đang được xây dựng ở Trung Quốc và các
nơi khác, những bước đi đầu tiên được cho là đã được thực hiện. Mối đe dọa
về thảm họa và lời hứa về sự an toàn sẽ tạo điều kiện cho nhiều điều hơn nữa.
Mọi làn sóng công nghệ đều tiềm ẩn nguy cơ cao gây ra sự gián đoạn mang
tính hệ thống đối với trật tự xã hội. Nhưng cho đến nay, chúng vẫn chưa gây
ra những rủi ro mang tính hệ thống và rộng khắp về thảm họa toàn cầu hóa.
Đó là những gì đã thay đổi. Đó là những gì có thể thúc đẩy một phản ứng lạc hậu.
Nếu các quốc gia giống như thây ma sẽ mộng du dẫn đến thảm họa, sự cởi mở
và sự hỗn loạn ngày càng gia tăng của họ trở thành đĩa petri cho công nghệ không
bị kiểm soát, thì các quốc gia độc tài đã sẵn sàng lao vào chính sự lạc hậu về
công nghệ này, tạo tiền đề, về mặt công nghệ nếu không phải về mặt đạo đức, cho
các cuộc xâm phạm quyền riêng tư và cắt giảm quyền riêng tư trên quy mô lớn. tự
do. Và trong sự liên tục giữa hai điều này cũng có khả năng xảy ra điều tồi tệ nhất
tất cả các thế giới: các bộ máy giám sát và kiểm soát rải rác nhưng mang
tính đàn áp vẫn chưa tạo nên một hệ thống kín nước.
Thảm họa và chứng loạn thị.
Nhà triết học công nghệ Lewis Mumford đã nói về “megamachine”, nơi các
hệ thống xã hội kết hợp với công nghệ để tạo thành “một cấu trúc thống nhất,
bao bọc toàn diện” được “kiểm soát vì lợi ích của các tổ chức tập thể phi
cá nhân hóa”. Vì lý do bảo mật, nhân loại có thể giải phóng cỗ máy
megamachine để ngăn chặn theo đúng nghĩa đen.
các megamachines khác sắp ra đời. Làn sóng sắp tới sau đó có thể tạo ra chính
những công cụ cần thiết để kiềm chế chính nó một cách nghịch lý. Tuy nhiên, khi
làm như vậy, nó sẽ mở ra một chế độ thất bại trong đó quyền tự quyết, quyền tự
do và quyền riêng tư bị xóa bỏ, nơi các hệ thống giám sát và kiểm soát máy móc di
căn thành các hình thức thống trị bóp nghẹt xã hội.
Đối với những người có thể nói rằng bức tranh ngột ngạt này là tình trạng hiện
tại của chúng ta, tôi sẽ nói rằng nó chẳng là gì so với những gì tương lai có thể có.
Đây cũng không phải là con đường đen tối duy nhất có thể xảy ra. Còn nhiều làn
sóng khác, nhưng làn sóng này liên quan trực tiếp đến những thách thức chính trị
của làn sóng cũng như tiềm năng thảm khốc của nó. Nó không chỉ là một thử nghiệm
suy nghĩ mơ hồ. Đối mặt với điều này, chúng ta phải đặt ra những câu hỏi sau: Mặc
dù những người lái xe đằng sau nó có vẻ rất vĩ đại và bất di bất dịch, liệu nhân
loại có nên xuống tàu không? Chúng ta có nên từ chối hoàn toàn sự phát triển công
nghệ liên tục? Có lẽ đã đến lúc, dù khó có thể xảy ra, để tạm dừng công nghệ?
TÌNH TRẠNG:
MỘT LOẠI THẢM HỌA KHÁC
Nhìn vào các thành phố rộng lớn của chúng ta, những tòa nhà dân sự kiên cố
được xây bằng thép và đá, những chuỗi đường bộ và đường ray vĩ đại kết nối
chúng lại với nhau, cảnh quan rộng lớn và các công trình kỹ thuật quản lý
môi trường của chúng, xã hội của chúng ta có một cảm giác lâu dài đầy hấp
dẫn. Bất chấp sự vô trọng lượng của thế giới kỹ thuật số, thế giới vật
chất xung quanh chúng ta vẫn có sự vững chắc và phong phú. Nó định hình
những mong đợi hàng ngày của chúng ta.
Chúng ta đến siêu thị và mong đợi nó sẽ tràn ngập trái cây và rau quả tươi.
Chúng tôi kỳ vọng nó sẽ được mát mẻ vào mùa hè, ấm áp vào mùa đông. Ngay cả khi
có những biến động liên tục, chúng tôi vẫn giả định rằng chuỗi cung ứng và khả
năng chi trả của thế kỷ 21 vẫn vững chắc như một tòa thị chính cũ. Tất cả những
phần cực đoan nhất trong lịch sử

sự tồn tại của chúng ta dường như hoàn toàn tầm thường, và vì vậy phần lớn chúng ta
tiếp tục cuộc sống của mình như thể chúng có thể tiếp tục vô tận. Hầu hết những người
xung quanh chúng ta, kể cả những người lãnh đạo của chúng ta, đều làm như vậy.
Tuy nhiên, không có gì tồn tại mãi mãi. Trong suốt lịch sử, sự sụp đổ
của xã hội là vô số: từ Lưỡng Hà cổ đại đến La Mã, Maya đến Đảo Phục Sinh,
hết lần này đến lần khác không chỉ là các nền văn minh không tồn tại lâu
dài; đó là tính không bền vững dường như đã bị nung nấu. Các nền văn minh
sụp đổ không phải là ngoại lệ; chúng là quy luật. Một cuộc khảo sát với
60 nền văn minh cho thấy chúng tồn tại trung bình khoảng 400 năm trước
khi tan rã. Nếu không có công nghệ mới, họ sẽ gặp phải những giới hạn khó
khăn trong phát triển – về năng lượng sẵn có, về thực phẩm, về sự phức
tạp trong xã hội – khiến họ sụp đổ.
Không có gì thay đổi ngoại trừ điều này: trong hàng trăm năm, sự phát
triển không ngừng về công nghệ dường như đã giúp các xã hội thoát khỏi
cạm bẫy sắt của lịch sử. Nhưng sẽ là sai lầm nếu nghĩ rằng động lực này
đã kết thúc. Đương nhiên, nền văn minh của thế kỷ 21 còn rất xa so với
nền văn minh Maya, nhưng những áp lực của một kiến trúc thượng tầng
khổng lồ và đói khát, dân số đông, những giới hạn cứng rắn về năng lượng
và năng lực văn minh vẫn chưa biến mất một cách kỳ diệu; họ vừa được giữ
ở vịnh.
Giả sử có một thế giới nơi những động cơ khuyến khích đó có thể bị
dừng lại. Có lẽ đã đến lúc tạm dừng phát triển công nghệ hoàn toàn?
Tuyệt đối không.
nền văn minh hiện đại viết séc chỉ có sự phát triển công nghệ liên tục
mới có thể kiếm tiền. Toàn bộ tòa nhà của chúng tôi được xây dựng dựa
trên ý tưởng tăng trưởng kinh tế dài hạn. Và tăng trưởng kinh tế dài hạn
cuối cùng phụ thuộc vào việc giới thiệu và phổ biến các công nghệ mới.
Cho dù đó là kỳ vọng tiêu dùng nhiều hơn với chi phí thấp hơn hay nhận
được nhiều dịch vụ công hơn mà không phải trả nhiều thuế hơn, hay ý
tưởng rằng chúng ta có thể làm suy thoái môi trường một cách không bền vững trong khi
cuộc sống ngày càng tốt đẹp hơn, nên món hời—được cho là bản thân món hời lớn
—cần có công nghệ.
Như chúng ta đã thấy, sự phát triển của các công nghệ mới là một phần
quan trọng trong việc giải quyết những thách thức lớn của hành tinh chúng
ta. Nếu không có công nghệ mới, những thách thức này sẽ không thể được đáp
ứng. Cái giá phải trả cho hiện trạng khai thác con người và vật chất không thể bỏ qua.
Bộ công nghệ hiện tại của chúng ta rất đáng chú ý về nhiều mặt, nhưng có rất
ít dấu hiệu cho thấy nó có thể được triển khai một cách bền vững để hỗ trợ
hơn 8 tỷ người ở mức độ mà ở các nước phát triển coi là đương nhiên. Dù khó
chấp nhận đối với một số người, nhưng điều đó đáng được nhắc lại: giải quyết
các vấn đề như biến đổi khí hậu, hoặc duy trì mức sống ngày càng cao và chăm
sóc sức khỏe, hoặc cải thiện giáo dục và cơ hội sẽ không xảy ra nếu không
cung cấp các công nghệ mới như một phần của gói.
Tạm dừng phát triển công nghệ, giả sử điều đó là có thể, theo một nghĩa
nào đó sẽ dẫn đến sự an toàn. Nó sẽ bắt đầu hạn chế việc đưa ra những rủi ro
thảm khốc mới. Nhưng điều đó không có nghĩa là tránh thành công chứng loạn
thị. Thay vào đó, khi tính không bền vững của các xã hội thế kỷ 21 bắt đầu
lộ rõ, nó sẽ đơn giản mang đến một dạng lạc hậu khác. Không có công nghệ mới,
sớm hay muộn mọi thứ đều trì trệ, có thể sụp đổ hoàn toàn.
Trong thế kỷ tới, dân số toàn cầu sẽ bắt đầu giảm, ở một số nước sẽ giảm
nhanh chóng. Khi tỷ lệ người lao động so với người về hưu thay đổi và lực
lượng lao động giảm dần, nền kinh tế sẽ không thể hoạt động ở mức hiện tại.
Nói cách khác, nếu không có công nghệ mới thì sẽ không thể duy trì được mức
sống.
Đây là một vấn đề toàn cầu. Các quốc gia bao gồm Nhật Bản, Đức, Ý, Nga và
Hàn Quốc thậm chí còn đang tiến gần đến cuộc khủng hoảng dân số trong độ tuổi
lao động. Điều đáng ngạc nhiên hơn có lẽ là vào những năm 2050, các quốc gia
như Ấn Độ, Indonesia, Mexico và Thổ Nhĩ Kỳ sẽ ở vào tình trạng tương tự.
Trung Quốc là một phần quan trọng của câu chuyện công nghệ trong những thập
kỷ tới, nhưng vào cuối thế kỷ này, Viện Khoa học Xã hội Thượng Hải dự đoán
nước này có thể chỉ có
600 triệu người, một sự đảo ngược đáng kinh ngạc của dân số tăng gần một thế kỷ.
Tổng tỷ suất sinh của Trung Quốc thuộc hàng thấp nhất thế giới, chỉ ngang bằng
với các nước láng giềng như Hàn Quốc và Đài Loan.
Sự thật là Trung Quốc hoàn toàn không bền vững nếu không có công nghệ mới.
Đây không chỉ là về con số mà còn về chuyên môn, cơ sở thuế và mức đầu tư;
những người về hưu sẽ rút tiền ra khỏi hệ thống, không đầu tư lâu dài. Tất cả
những điều này có nghĩa là “các mô hình quản lý của thời kỳ hậu Thế chiến thứ
hai không chỉ đơn giản là phá sản mà còn trở thành những hiệp ước tự sát xã
hội”. Xu hướng nhân khẩu học phải mất nhiều thập kỷ để thay đổi. Nhóm thuần tập
thế hệ không thay đổi quy mô. Sự suy giảm chậm chạp, không thể tránh khỏi này đã
bị khóa chặt, một tảng băng trôi lờ mờ mà chúng ta không thể làm gì để tránh khỏi
—ngoại trừ việc tìm cách thay thế những công nhân đó.
Căng thẳng về tài nguyên của chúng tôi cũng là một điều chắc chắn. Hãy nhớ
lại rằng việc tìm nguồn cung ứng nguyên liệu cho công nghệ sạch, chưa nói đến
bất cứ thứ gì khác, cực kỳ phức tạp và dễ bị tổn thương. Nhu cầu về lithium,
coban và than chì dự kiến sẽ tăng 500% vào năm 2030. Hiện tại, pin là niềm hy
vọng lớn nhất cho một nền kinh tế sạch, tuy nhiên, hầu như không có đủ dung
lượng lưu trữ để có thể đến hầu hết các địa điểm chỉ sau vài phút hoặc thậm chí
vài giây tiêu thụ năng lượng. Để thay thế lượng hàng tồn kho đang giảm nhanh
hoặc khắc phục sự cố trong chuỗi cung ứng đối với vô số nguyên liệu, chúng ta cần có các lựa c
Điều đó có nghĩa là những đột phá khoa học và công nghệ mới trong các lĩnh vực
như khoa học vật liệu.
Với những hạn chế về dân số và nguồn lực, chỉ đứng yên có lẽ sẽ đòi hỏi phải
cải thiện năng suất toàn cầu gấp hai đến ba lần, và việc đứng yên là không thể
chấp nhận được đối với đại đa số thế giới, ví dụ như tỷ lệ tử vong ở trẻ em cao
hơn 12 lần so với các nước phát triển. . Tất nhiên, bất kỳ sự tiếp tục nào ở mức
độ hiện tại không chỉ báo trước căng thẳng về nhân khẩu học và tài nguyên; nó
quyết định tình trạng khẩn cấp về khí hậu.
Đừng nhầm lẫn: sự bế tắc tự nó đã báo hiệu thảm họa.
Đây không chỉ là vấn đề thiếu lao động trong các nhà hàng và pin đắt tiền.
Nó có nghĩa là làm sáng tỏ mọi khía cạnh bấp bênh của cuộc sống hiện đại, với vô
số khó khăn không thể đoán trước.

các tác động xuôi dòng, giao thoa với một loạt các vấn đề vốn đã không thể quản lý
được. Tôi nghĩ thật dễ dàng để giảm bớt phần nào lối sống của chúng ta được hỗ trợ
bởi những cải tiến công nghệ liên tục. Hãy nhớ rằng những tiền lệ lịch sử đó –
chuẩn mực của mọi nền văn minh trước đây – đang vang lên rất to và rõ ràng. Sự bế
tắc có nghĩa là một tương lai ít ỏi, tốt nhất là suy thoái nhưng có thể là một vụ
nổ có thể xoắn ốc một cách đáng báo động. Một số người có thể cho rằng điều này tạo
thành cực thứ ba, một bộ ba bất khả thi lớn. Đối với tôi điều đó không hoàn toàn
đúng. Đầu tiên, đây là lựa chọn ít có khả năng xảy ra nhất ở giai đoạn này. Và thứ
hai, nếu điều đó xảy ra, nó chỉ đơn giản là trình bày lại tình thế tiến thoái lưỡng
nan dưới một hình thức mới. Lệnh cấm công nghệ không phải là lối thoát; đó là lời
mời đến một loại viễn tưởng khác, một loại thảm họa khác.
Ngay cả khi điều đó có thể xảy ra thì ý tưởng ngăn chặn làn sóng sắp tới cũng
không phải là một ý nghĩ dễ chịu. Duy trì chứ chưa nói đến việc cải thiện mức sống
cần có công nghệ. Ngăn chặn sự sụp đổ cần có công nghệ. Cái giá của việc nói không
là hiện hữu. Tuy nhiên, mọi con đường từ đây đều mang lại những rủi ro và nhược
điểm nghiêm trọng.
Đây là vấn đề nan giải lớn.
NƠI NÀO TIẾP THEO?
Kể từ khi bắt đầu thời đại hạt nhân và kỹ thuật số, vấn đề nan giải này ngày càng
rõ ràng hơn. Năm 1955, gần cuối đời, nhà toán học John von Neumann đã viết một bài
tiểu luận có tựa đề “Chúng ta có thể sống sót nhờ công nghệ không?” Báo trước lập
luận ở đây, ông tin rằng xã hội toàn cầu đang “ở trong một cuộc khủng hoảng trưởng
thành nhanh chóng - một cuộc khủng hoảng do thực tế là môi trường trong đó tiến bộ
công nghệ phải diễn ra đã trở nên thiếu quy mô và thiếu tổ chức”. Ở cuối bài luận,
von Neumann coi việc sống sót chỉ là “một khả năng”, cũng như anh ta có thể đứng
trong bóng tối của đám mây hình nấm mà chính máy tính của anh ta đã biến thành hiện
thực. Ông viết: “Không có cách chữa trị cho sự tiến bộ”. “Mọi nỗ lực tìm kiếm sự an
toàn tự động
các kênh cho sự tiến bộ đa dạng bùng nổ hiện nay chắc chắn sẽ dẫn đến sự thất vọng.”
Tôi không đơn độc trong mong muốn xây dựng công nghệ có thể mang lại nhiều lợi
ích đồng thời giảm thiểu rủi ro. Một số người sẽ chế giễu tham vọng đó chỉ là một
dạng kiêu ngạo khác của Thung lũng Silicon, nhưng tôi vẫn tin rằng công nghệ vẫn là
động lực chính để cải thiện thế giới và cuộc sống của chúng ta. Bất chấp tất cả những
tác hại, bất lợi và những hậu quả không lường trước được, sự đóng góp của công nghệ
cho đến nay vẫn mang tính tích cực vượt trội. Suy cho cùng, ngay cả những nhà phê
bình công nghệ gay gắt nhất cũng thường vui vẻ sử dụng ấm đun nước, uống một viên
aspirin, xem TV và đi tàu điện ngầm. Mỗi khẩu súng đều có một liều penicillin cứu
mạng; đối với mỗi mẩu thông tin sai lệch, một sự thật sẽ nhanh chóng được khám phá.
Tuy nhiên, bằng cách nào đó, từ von Neumann và các đồng nghiệp của ông trở đi,
tôi và nhiều người khác lại lo lắng về quỹ đạo dài hạn. Nỗi lo lắng sâu sắc của tôi
là công nghệ đang cho thấy khả năng thực sự có thể chuyển dịch tiêu cực mạnh mẽ, rằng
chúng ta không có câu trả lời để ngăn chặn sự thay đổi này và chúng ta đang bị mắc
kẹt không lối thoát.
Không ai trong chúng ta có thể chắc chắn chính xác tất cả những điều này diễn ra
như thế nào. Trong phạm vi rộng của tình thế tiến thoái lưỡng nan này có rất nhiều
kết quả cụ thể và không thể biết trước được. Tuy nhiên, tôi tin tưởng rằng những thập
kỷ tới sẽ chứng kiến sự đánh đổi phức tạp và đau đớn giữa sự thịnh vượng, sự giám sát
và mối đe dọa thảm họa ngày càng gay gắt hơn.
Ngay cả một hệ thống các quốc gia có sức khỏe tốt nhất có thể cũng sẽ gặp khó khăn.
Chúng ta đang đối mặt với thách thức cuối cùng đối với Homo technologicus.
Nếu cuốn sách này mang lại cảm giác mâu thuẫn trong thái độ đối với công nghệ,
một phần tích cực và một phần là điềm báo, đó là bởi vì quan điểm trái ngược như vậy
là đánh giá trung thực nhất về vị thế của chúng ta.
Ông cố của chúng ta sẽ ngạc nhiên trước sự phong phú của thế giới chúng ta. Nhưng họ
cũng sẽ ngạc nhiên trước sự mong manh và nguy hiểm của nó. Với làn sóng sắp tới, chúng
ta phải đối mặt với một mối đe dọa thực sự, một loạt các hậu quả tai hại có thể xảy ra
—vâng, thậm chí là nguy cơ tồn tại đối với loài này. Công nghệ là điều tốt nhất và
tồi tệ nhất đối với chúng ta. không có một

cách tiếp cận một chiều gọn gàng mà nó thực hiện công bằng. Cách tiếp cận
mạch lạc duy nhất đối với công nghệ là nhìn thấy cả hai mặt cùng một lúc.
Trong khoảng hơn một thập kỷ qua, vấn đề nan giải này càng trở nên rõ ràng
hơn, nhiệm vụ giải quyết nó càng trở nên cấp bách hơn. Hãy nhìn vào thế giới
và có vẻ như việc ngăn chặn là không thể. Hãy theo dõi hậu quả và một điều
khác cũng trở nên rõ ràng không kém: vì lợi ích của mọi người, việc ngăn chặn
phải khả thi.
PHẦN IV
BỞI VÌ
SÓNG
CHƯƠNG 13
PHẢI CHĂN CHỨA

KHẢ THI
Cái giá của những hiểu biết rải rác
TÔI
từng có ý định viết một cuốn sách với bức tranh tươi sáng hơn về tương lai của công
nghệ và tương lai nói chung. Mặc dù ngày nay thế giới đã khôn ngoan hơn và cảnh giác hơn
rất nhiều về “công nghệ”, nhưng vẫn còn rất nhiều điều đáng tích cực. Nhưng trong đại dịch
COVID-19, tôi đã có thời gian để dừng lại và suy ngẫm. Tôi cho phép mình kết nối lại với
một sự thật mà tôi đã, nếu không phủ nhận thì đã hạ thấp quá lâu.
Sự thay đổi theo cấp số nhân đang đến. Nó là không thể tránh khỏi. Thực tế đó cần phải
được giải quyết.
Nếu bạn chấp nhận dù chỉ một phần nhỏ trong lập luận trọng tâm của cuốn sách này thì
câu hỏi thực sự là bạn phải thực sự làm gì với nó. Một khi chúng ta thừa nhận thực tế này,
điều gì thực sự sẽ tạo ra sự khác biệt? Đối mặt với tình thế tiến thoái lưỡng nan như
tình huống mà tôi đã nêu ra trong ba phần đầu của cuốn sách này, việc ngăn chặn, ngay cả
trên lý thuyết, sẽ trông như thế nào?
Trong những năm gần đây tôi đã có vô số cuộc trò chuyện về câu hỏi này. Tôi đã thảo
luận vấn đề này với các nhà nghiên cứu AI hàng đầu, với các CEO, với những người bạn cũ,
với các nhà hoạch định chính sách ở Washington, Bắc Kinh và Brussels, với các nhà khoa
học và luật sư, với học sinh trung học và với những người ngẫu nhiên sẽ lắng nghe tôi. ở
quán rượu. Mọi người ngay lập tức tìm đến những câu trả lời dễ dàng, và hầu như không có
ngoại lệ, mọi người đều có chung một đơn thuốc: quy định.
Có vẻ như đây là câu trả lời, lối thoát khỏi tình thế tiến thoái lưỡng nan, chìa
khóa để ngăn chặn, vị cứu tinh của quốc gia-dân tộc và của nền văn minh như chúng ta
biết. Quy định khéo léo, cân bằng nhu cầu đạt được tiến bộ cùng với các hạn chế an toàn
hợp lý, ở cấp quốc gia và siêu quốc gia, bao trùm mọi lĩnh vực từ những gã khổng lồ
công nghệ và quân đội cho đến các nhóm nghiên cứu đại học nhỏ và các công ty khởi
nghiệp, gắn liền với một khuôn khổ toàn diện, có thể thực thi được. Chúng tôi đã từng
làm điều đó trước đây nên cuộc tranh luận vẫn tiếp tục; nhìn vào ô tô, máy bay và thuốc
men. Đây không phải là cách chúng ta quản lý và ngăn chặn làn sóng sắp tới sao?
Giá như nó đơn giản như thế. Nói “Quy định!” trước sự thay đổi công nghệ khủng
khiếp là phần dễ dàng. Đó cũng là câu trả lời bi quan kinh điển. Đó là một cách đơn
giản để giải quyết vấn đề.
Trên giấy tờ, quy định có vẻ hấp dẫn, thậm chí rõ ràng và dễ hiểu; gợi ý rằng nó khiến
mọi người tỏ ra thông minh, quan tâm và thậm chí nhẹ nhõm. Hàm ý ngầm là nó có thể giải
quyết được nhưng đó là vấn đề của người khác. Tuy nhiên, hãy nhìn sâu hơn và các vết
nứt sẽ trở nên rõ ràng.
Trong phần 4, chúng ta sẽ khám phá nhiều cách mà xã hội có thể bắt đầu đối mặt với
tình thế tiến thoái lưỡng nan, để rũ bỏ ác cảm bi quan và thực sự vật lộn với vấn đề
ngăn chặn, để tìm kiếm câu trả lời trong một thế giới mà việc giải quyết vấn đề đó là
khả thi. Tuy nhiên, trước khi làm điều đó, điều quan trọng là phải thừa nhận một sự
thật cốt lõi: chỉ quy định thôi là chưa đủ.
Việc triệu tập một hội nghị bàn tròn ở Nhà Trắng và đưa ra những bài phát biểu nghiêm
túc thật dễ dàng; ban hành luật hiệu quả là một đề xuất khác. Như chúng ta đã thấy, các
chính phủ phải đối mặt với nhiều cuộc khủng hoảng độc lập với làn sóng sắp tới – niềm
tin suy giảm, tình trạng bất bình đẳng cố hữu, chính trị phân cực, v.v. Họ đang bị căng
thẳng quá mức, lực lượng lao động của họ có tay nghề thấp và không được chuẩn bị cho
những thách thức phức tạp và chuyển động nhanh đang ở phía trước.
Trong khi những người nghiệp dư trong gara được tiếp cận với những công cụ mạnh mẽ
hơn và các công ty công nghệ chi hàng tỷ USD cho hoạt động R&D, thì hầu hết các chính
trị gia lại bị mắc kẹt trong vòng quay tin tức 24 giờ với những đoạn âm thanh và hình ảnh.
Khi một chính phủ đã chuyển quyền đến mức chỉ đơn giản là lảo đảo
từ cuộc khủng hoảng này đến cuộc khủng hoảng khác, nó có rất ít không gian để giải quyết các
lực kiến tạo đòi hỏi kiến thức chuyên môn sâu rộng và khả năng phán đoán cẩn thận trong
những khoảng thời gian không chắc chắn. Sẽ dễ dàng hơn để bỏ qua những vấn đề này để ủng hộ
kết quả dễ dàng hơn có nhiều khả năng giành được phiếu bầu trong cuộc bầu cử tiếp theo.
Ngay cả các nhà công nghệ và nhà nghiên cứu trong các lĩnh vực như AI cũng phải vật lộn
với tốc độ thay đổi. Vậy thì cơ hội nào cho các cơ quan quản lý với ít nguồn lực hơn? Họ
giải thích thế nào về một thời đại siêu tiến hóa, về tốc độ và tính không thể đoán trước
của làn sóng sắp tới?
Công nghệ phát triển từng tuần. Việc soạn thảo và thông qua luật phải mất nhiều năm. Hãy
xem xét sự xuất hiện của một sản phẩm mới trên thị trường như chuông cửa Ring. Ring đặt một
camera ở cửa trước và kết nối nó với điện thoại của bạn. Sản phẩm này đã được áp dụng quá
nhanh và hiện nay phổ biến đến mức nó đã thay đổi căn bản bản chất của những gì cần được
quản lý; đột nhiên con phố ngoại ô thông thường của bạn chuyển từ không gian tương đối riêng
tư sang được giám sát và ghi lại. Vào thời điểm cuộc trò chuyện về quy định bắt đầu, Ring đã
tạo ra một mạng lưới camera rộng khắp, thu thập dữ liệu và hình ảnh từ cửa trước của mọi
người trên khắp thế giới. Hai mươi năm kể từ buổi bình minh của truyền thông xã hội, không
có cách tiếp cận nhất quán nào đối với sự xuất hiện của một nền tảng mới mạnh mẽ (và bên
cạnh đó, quyền riêng tư, sự phân cực, độc quyền, quyền sở hữu nước ngoài hay sức khỏe tâm
thần có phải là vấn đề cốt lõi hay không?) . Làn sóng sắp tới sẽ làm trầm trọng thêm động
lực này.
Các cuộc thảo luận về công nghệ tràn lan khắp các phương tiện truyền thông xã hội, blog
và bản tin, tạp chí học thuật, vô số hội nghị, hội nghị và hội thảo, các chủ đề của chúng
ngày càng xa cách và ngày càng bị chìm trong tiếng ồn. Mọi người đều có quan điểm, nhưng nó
không tạo nên một chương trình mạch lạc. Nói về đạo đức của hệ thống học máy là một thế giới
khác xa với sự an toàn kỹ thuật của sinh học tổng hợp. Những cuộc thảo luận này diễn ra
trong những không gian biệt lập, ồn ào. Chúng hiếm khi bùng phát.
Tuy nhiên, tôi tin rằng chúng là những khía cạnh của cùng một hiện tượng; tất cả đều
nhằm mục đích giải quyết các khía cạnh khác nhau của cùng một làn sóng. Sẽ không đủ nếu có
hàng chục cuộc trò chuyện riêng biệt

về sự thiên vị thuật toán hoặc rủi ro sinh học hoặc chiến tranh không người lái hoặc
tác động kinh tế của robot hoặc những tác động về quyền riêng tư của điện toán lượng tử.
Nó hoàn toàn đánh giá thấp mối liên hệ giữa nguyên nhân và kết quả. Chúng ta cần một
cách tiếp cận có thể thống nhất các cuộc trò chuyện khác nhau này, gói gọn tất cả các
khía cạnh rủi ro khác nhau đó, một khái niệm có mục đích chung cho cuộc cách mạng có
mục đích chung này.
Cái giá của những hiểu biết rải rác là thất bại và chúng ta biết điều đó sẽ như
thế nào. Hiện tại, tất cả những gì chúng tôi có là những thông tin chi tiết rải rác:
hàng trăm chương trình riêng biệt trên khắp các khu vực xa xôi của thế giới công nghệ,
loại bỏ những nỗ lực có ý nghĩa nhưng đặc biệt mà không có kế hoạch hoặc định hướng
tổng thể. Ở cấp độ cao nhất, chúng ta cần một mục tiêu rõ ràng và đơn giản, một mệnh
lệnh biểu ngữ tích hợp tất cả những nỗ lực khác nhau xung quanh công nghệ thành một
gói mạch lạc. Không chỉ điều chỉnh yếu tố này hay yếu tố kia, không chỉ ở công ty này
hay công ty kia, nhóm nghiên cứu hay thậm chí quốc gia, mà ở mọi nơi, trên tất cả các
mặt trận, vùng rủi ro và khu vực địa lý cùng một lúc. Cho dù đó là đối mặt với một AGI
mới xuất hiện hay một dạng sống mới lạ nhưng hữu ích, mục tiêu vẫn phải thống nhất:
ngăn chặn.
Vấn đề trọng tâm của nhân loại trong thế kỷ XXI là làm thế nào chúng ta có thể
nuôi dưỡng đủ quyền lực chính trị hợp pháp và trí tuệ, làm chủ đầy đủ kỹ thuật và các
quy tắc mạnh mẽ để hạn chế công nghệ nhằm đảm bảo chúng tiếp tục mang lại nhiều lợi
ích hơn là có hại.
Nói cách khác, làm thế nào chúng ta có thể chứa đựng những thứ dường như không thể chứa đựng được.
Từ lịch sử của Homo technologicus đến thực tế của thời đại mà công nghệ thâm nhập
vào mọi khía cạnh của cuộc sống, chúng ta luôn gặp khó khăn trong việc biến điều này
thành hiện thực. Tuy nhiên, điều đó không có nghĩa là chúng ta không nên thử.
Tuy nhiên, hầu hết các tổ chức, không chỉ các chính phủ, đều không phù hợp với
những thách thức phức tạp đang diễn ra. Như chúng ta đã thấy, ngay cả những quốc gia
giàu có cũng có thể gặp khó khăn khi đối mặt với một cuộc khủng hoảng đang diễn ra.
Bước sang năm 2020, Chỉ số An ninh Y tế Toàn cầu đã xếp hạng Hoa Kỳ số một trên thế
giới và Vương quốc Anh không kém xa về mức độ sẵn sàng cho đại dịch. Tuy nhiên, một
danh mục các quyết định tai hại được đưa ra

tỷ lệ tử vong và chi phí tài chính tồi tệ hơn nhiều so với các quốc gia ngang hàng
như Canada và Đức. Bất chấp những gì có vẻ như là chuyên môn xuất sắc, chiều sâu
thể chế, kế hoạch và nguồn lực, ngay cả những gì được chuẩn bị tốt nhất trên giấy
tờ cũng bị gạt sang một bên.
Về mặt này, các chính phủ nên chuẩn bị tốt hơn để quản lý các rủi ro và công
nghệ mới hơn bao giờ hết. Ngân sách quốc gia dành cho những việc như vậy thường ở
mức kỷ lục. Tuy nhiên, sự thật là các mối đe dọa mới đặc biệt khó giải quyết đối
với bất kỳ chính phủ nào. Đó không phải là một sai sót trong ý tưởng về chính phủ;
đó là sự đánh giá về quy mô của thách thức trước mắt chúng ta. Khi họ phải đối mặt
với thứ gì đó giống như ACI có thể vượt qua phiên bản Bài kiểm tra Turing hiện
đại của tôi, phản ứng của ngay cả những cơ quan quan liêu có tầm nhìn xa và chu
đáo nhất cũng sẽ giống với phản ứng với COVID. Các chính phủ chống lại cuộc chiến
cuối cùng, đại dịch cuối cùng, điều tiết làn sóng cuối cùng. Cơ quan quản lý điều
chỉnh những điều họ có thể dự đoán được.
Trong khi đó, đây là thời đại của những điều bất ngờ.
QUY ĐỊNH KHÔNG ĐỦ
Bất chấp những cơn gió ngược, những nỗ lực điều chỉnh các công nghệ tiên phong là
cần thiết và đang phát triển. Đạo luật tham vọng nhất có lẽ là Đạo luật AI của EU,
được đề xuất lần đầu tiên vào năm 2021. Tính đến thời điểm viết bài này vào năm
2023, đạo luật này đang trải qua một quá trình lâu dài để trở thành luật của Châu Âu.
Nếu được ban hành, hoạt động nghiên cứu và triển khai AI sẽ được phân loại theo
thang đo dựa trên rủi ro. Các công nghệ có “rủi ro không thể chấp nhận” gây tổn
hại trực tiếp sẽ bị cấm. Khi AI ảnh hưởng đến các quyền cơ bản của con người hoặc
các hệ thống quan trọng như cơ sở hạ tầng cơ bản, giao thông công cộng, y tế hoặc
phúc lợi, nó sẽ được phân loại là “rủi ro cao”, phải chịu sự giám sát và trách
nhiệm cao hơn. AI có rủi ro cao phải “minh bạch, an toàn, chịu sự kiểm soát của
con người và được ghi chép hợp lệ”.

Tuy nhiên, đạo luật này, mặc dù là một trong những nỗ lực quản lý tiên tiến, đầy
tham vọng và có tầm nhìn xa nhất trên thế giới cho đến nay, cũng cho thấy những vấn
đề cố hữu trong quy định. Nó đã bị tấn công từ mọi phía, vì đi quá xa và không đi đủ
xa.
Một số người cho rằng nó quá tập trung vào những rủi ro mới nảy sinh trong tương
lai, cố gắng điều chỉnh những thứ thậm chí không tồn tại; những người khác cho rằng
nó không đủ viễn thị. Một số người tin rằng nó giúp các công ty công nghệ lớn thoát
khỏi khó khăn, rằng họ đóng vai trò quan trọng trong việc soạn thảo và giảm bớt các
điều khoản của nó. Những người khác cho rằng nó đi quá xa và sẽ cản trở hoạt động
nghiên cứu và đổi mới ở EU, gây tổn hại đến việc làm và nguồn thu thuế.
Hầu hết các quy định đều đi theo một sợi dây cạnh tranh lợi ích. Nhưng ở một số
lĩnh vực khác ngoài công nghệ tiên phong, nó phải giải quyết một vấn đề được phổ
biến rộng rãi, rất quan trọng đối với nền kinh tế nhưng lại phát triển quá nhanh.
Tất cả sự ồn ào và nhầm lẫn cho thấy rõ ràng bất kỳ hình thức điều tiết nào khó khăn
và phức tạp đến mức nào, đặc biệt là trong bối cảnh thay đổi ngày càng nhanh, và do
đó, nó gần như chắc chắn sẽ để lại những khoảng trống, thiếu khả năng ngăn chặn hiệu
quả.
Việc quản lý không chỉ các công nghệ siêu tiến hóa mà còn sử dụng đa năng là
một thách thức vô cùng lớn. Hãy xem xét cách quản lý phương tiện giao thông cơ giới.
Không có một cơ quan quản lý nào, hoặc thậm chí chỉ có một vài luật. Thay vào đó,
chúng ta có các quy định về giao thông, đường sá, đỗ xe, thắt dây an toàn, khí thải,
đào tạo lái xe, v.v. Điều này không chỉ đến từ các cơ quan lập pháp quốc gia mà còn
đến từ chính quyền địa phương, các cơ quan quản lý đường cao tốc, các bộ giao thông
vận tải ban hành hướng dẫn, cơ quan cấp phép, văn phòng tiêu chuẩn môi trường. Nó
không chỉ dựa vào các nhà lập pháp mà còn dựa vào lực lượng cảnh sát, người giám sát
giao thông, công ty ô tô, thợ cơ khí, nhà quy hoạch thành phố và công ty bảo hiểm.
Các quy định phức tạp được hoàn thiện qua nhiều thập kỷ đã khiến đường sá và
phương tiện giao thông ngày càng an toàn hơn và trật tự hơn, tạo điều kiện cho chúng
phát triển và lan rộng. Tuy nhiên, mỗi năm vẫn có 1,35 triệu người chết vì tai nạn
giao thông. Quy định có thể làm giảm bớt những tác động tiêu cực nhưng không thể xóa
bỏ những hậu quả xấu như tai nạn, ô nhiễm hoặc sự phát triển rộng khắp. Chúng tôi đã
quyết định rằng đây là chi phí nhân lực có thể chấp nhận được nếu xét đến lợi ích.
Cái “chúng tôi” đó rất quan trọng. Quy định không chỉ dựa vào việc
thông qua một luật mới. Nó còn là về các chuẩn mực, cơ cấu quyền sở
hữu, các quy tắc bất thành văn về tuân thủ và trung thực, thủ tục
trọng tài, thực thi hợp đồng, cơ chế giám sát. Tất cả những điều này
cần phải được tích hợp và công chúng cần tham gia.
Việc này cần có thời gian—thời gian mà chúng ta không có. Với làn sóng
sắp tới, chúng ta không có nửa thế kỷ để nhiều cơ quan tìm ra những việc cần
làm, để xuất hiện những giá trị phù hợp và những phương pháp hay nhất. Quy
định nâng cao cần phải thực hiện đúng và nhanh chóng. Cũng không rõ làm thế
nào tất cả những điều này sẽ được quản lý trên một loạt các công nghệ chưa
từng có như vậy. Khi bạn quản lý sinh học tổng hợp, bạn đang quản lý thực
phẩm, thuốc men, công cụ công nghiệp, nghiên cứu học thuật hay tất cả chúng
cùng một lúc? Cơ quan nào chịu trách nhiệm về việc gì? Làm thế nào mà tất cả
lại khớp với nhau? Những tác nhân nào chịu trách nhiệm về phần nào của chuỗi
cung ứng? Những cạm bẫy của ngay cả một vụ tai nạn nghiêm trọng cũng là vô
cùng lớn, tuy nhiên việc quyết định cơ quan nào chịu trách nhiệm cũng là một bãi mìn.
Ngoài sự căng thẳng và thúc đẩy của cuộc tranh luận lập pháp, các quốc
gia cũng bị vướng vào mâu thuẫn. Một mặt, họ đang trong cuộc cạnh tranh
chiến lược nhằm đẩy nhanh sự phát triển của các công nghệ như AI và
sinh học tổng hợp. Mọi quốc gia đều muốn trở thành và được nhìn nhận ở
vị trí dẫn đầu về công nghệ. Đó là thước đo lòng tự hào dân tộc, an
ninh quốc gia và là một mệnh lệnh hiện hữu. Mặt khác, họ đang nỗ lực
điều chỉnh và quản lý những công nghệ này - để ngăn chặn chúng, nhất
là vì sợ chúng sẽ đe dọa quốc gia-nhà nước với tư cách là trung tâm
quyền lực tối cao. Điều đáng sợ là điều này giả định một kịch bản tốt
nhất là các quốc gia-dân tộc mạnh mẽ, có năng lực hợp lý, gắn kết (dân
chủ tự do) có khả năng làm việc mạch lạc như các đơn vị trong nội bộ
và phối hợp tốt trên trường quốc tế.
Để có thể ngăn chặn được, các quy tắc cần phải hoạt động hiệu quả ở
những nơi đa dạng như Hà Lan và Nicaragua, New Zealand và
Nigeria. Nơi nào có người chậm lại, những người khác sẽ lao về phía trước.
Mỗi quốc gia đều mang những phong tục pháp lý và văn hóa riêng biệt của
mình vào việc phát triển công nghệ. EU hạn chế nghiêm ngặt các sinh vật
biến đổi gen trong việc cung cấp thực phẩm. Tuy nhiên, ở Hoa Kỳ, sinh vật
biến đổi gen là một phần thường xuyên của kinh doanh nông nghiệp.
Về bề ngoài, Trung Quốc là quốc gia dẫn đầu về quy định. Chính phủ đã ban
hành nhiều sắc lệnh về đạo đức AI, tìm cách áp đặt các hạn chế trên phạm
vi rộng. Nó chủ động cấm các sáng kiến DeFi và tiền điện tử khác nhau,
đồng thời giới hạn thời gian trẻ em dưới mười tám tuổi có thể dành cho trò
chơi và ứng dụng xã hội ở mức 90 phút mỗi ngày trong tuần, ba giờ vào cuối
tuần. Dự thảo quy định về thuật toán đề xuất và LLM ở Trung Quốc vượt xa
mọi quy định chúng tôi từng thấy ở phương Tây.
Trung Quốc đang phanh gấp ở một số khu vực trong khi - như chúng ta đã
thấy - đang tiến lên ở những khu vực khác. Quy định của nó phù hợp với
việc triển khai công nghệ chưa từng có như một công cụ quyền lực của chính
phủ độc tài. Nói chuyện với những người trong cuộc về chính sách và quốc
phòng phương Tây, họ kiên quyết rằng mặc dù Trung Quốc nói rất hay về đạo
đức và những hạn chế của AI, nhưng khi nói đến an ninh quốc gia, không có
rào cản nào có ý nghĩa. Trên thực tế, chính sách AI của Trung Quốc có hai
hướng: con đường dân sự được quản lý và con đường công nghiệp-quân sự tự do.
Trừ khi quy định có thể giải quyết được bản chất sâu xa của các biện
pháp khuyến khích được nêu trong phần 2, nếu không thì việc kiềm chế công
nghệ sẽ không đủ. Nó không ngừng thúc đẩy những tác nhân xấu hoặc tai nạn.
Nó không đi sâu vào trọng tâm của một hệ thống nghiên cứu mở và không thể
đoán trước được. Nó không cung cấp các lựa chọn thay thế với những phần
thưởng tài chính to lớn được cung cấp. Và trên hết, nó không làm giảm đi
sự cần thiết mang tính chiến lược. Nó không mô tả cách các quốc gia có thể
phối hợp với nhau để giải quyết một hiện tượng xuyên quốc gia hấp dẫn, khó
xác định, xây dựng một khối liên minh quan trọng, tinh tế, đặc biệt là
trong bối cảnh mà các điều ước quốc tế thường xuyên thất bại. Có một hố
sâu không thể vượt qua giữa mong muốn kiềm chế làn sóng sắp tới và mong
muốn định hình và sở hữu nó, giữa nhu cầu bảo vệ chống lại
công nghệ và nhu cầu bảo vệ chống lại người khác. Điểm thuận lợi và kiểm soát ở các
hướng đối lập nhau.
Thực tế là việc ngăn chặn không phải là việc mà một chính phủ, hay thậm chí một
nhóm chính phủ, có thể làm một mình. Nó đòi hỏi sự đổi mới và táo bạo trong hợp tác
giữa khu vực công và tư nhân cũng như một loạt ưu đãi hoàn toàn mới cho tất cả các
bên. Các quy định như Đạo luật AI của EU ít nhất gợi ý về một thế giới nơi sự ngăn
chặn được thể hiện trên bản đồ, một thế giới mà các chính phủ hàng đầu chấp nhận rủi
ro phổ biến vũ khí một cách nghiêm túc, thể hiện mức độ cam kết mới và sẵn sàng hy
sinh nghiêm túc.
Quy định là chưa đủ, nhưng ít nhất nó cũng là một sự khởi đầu. Những bước đi táo
bạo. Sự hiểu biết thực sự về những rủi ro liên quan đến làn sóng sắp tới. Trong một
thế giới mà việc ngăn chặn dường như là không thể, tất cả những điều này đều hướng
tới một tương lai có thể xảy ra.
XEM LẠI KIỂM SOÁT:
MỘT CUỘC THƯƠNG MẠI LỚN MỚI
Liệu có thực thể nào có đủ sức mạnh để ngăn chặn sự phổ biến rộng rãi đồng thời nắm
bắt được sức mạnh và lợi ích to lớn phát sinh từ làn sóng sắp tới? Để ngăn chặn những
kẻ xấu tiếp thu công nghệ hoặc định hình sự lan rộng của những ý tưởng non trẻ xung
quanh nó? Khi quyền tự chủ tăng lên, liệu bất cứ ai hoặc bất cứ điều gì có thể thực
sự hy vọng có được sự kiểm soát có ý nghĩa ở cấp độ vĩ mô? Ngăn chặn có nghĩa là trả
lời có cho những câu hỏi như thế này. Về lý thuyết, công nghệ chứa đựng giúp chúng
ta thoát khỏi tình thế tiến thoái lưỡng nan. Nó có nghĩa là ngay lập tức khai thác
và kiểm soát làn sóng, một công cụ quan trọng để xây dựng các xã hội bền vững và hưng
thịnh, đồng thời kiểm soát nó theo những cách tránh được thảm họa nghiêm trọng nhưng
không xâm lấn đến mức gây ra chứng lạc hậu. Nó có nghĩa là viết ra một món hời lớn
mới.
Ở phần đầu cuốn sách, tôi đã mô tả việc ngăn chặn như một nền tảng cho
kiểm soát và quản lý công nghệ, bao gồm các khía cạnh kỹ thuật, văn hóa và quy định.
Về gốc, tôi tin rằng điều này có nghĩa là có

có khả năng cắt giảm đáng kể hoặc ngăn chặn hoàn toàn các tác động tiêu
cực của công nghệ, từ quy mô địa phương và quy mô nhỏ cho đến quy mô hành
tinh và sự tồn tại. Bao gồm việc thực thi cứng rắn chống lại việc lạm dụng
các công nghệ phổ biến, nó cũng thúc đẩy sự phát triển, định hướng và
quản lý các công nghệ non trẻ. Công nghệ khép kín là công nghệ mà các
phương thức lỗi được xác định, quản lý và giảm thiểu, tình huống trong đó
các phương tiện để định hình và quản lý công nghệ ngày càng phát triển
song song với khả năng của nó.
Thật hấp dẫn khi nghĩ đến việc ngăn chặn theo nghĩa đen, rõ ràng, một
loại hộp ma thuật trong đó một công nghệ nhất định có thể bị phong ấn.
Ở giới hạn bên ngoài—trong trường hợp phần mềm độc hại hoặc mầm bệnh giả
mạo—các bước quyết liệt như vậy có thể cần thiết. Tuy nhiên, nhìn chung,
hãy coi việc ngăn chặn giống như một bộ lan can, một cách để giữ nhân loại
ở vị trí điều khiển khi một công nghệ có nguy cơ gây hại nhiều hơn là có
lợi. Hãy hình dung những lan can đó hoạt động ở các cấp độ khác nhau và
với các phương thức thực hiện khác nhau. Trong chương tiếp theo, chúng ta
sẽ xem xét chúng trông như thế nào ở cấp độ chi tiết hơn, từ nghiên cứu
liên kết AI đến thiết kế phòng thí nghiệm, các hiệp ước quốc tế cho đến
các giao thức thực hành tốt nhất. Hiện tại, điểm mấu chốt là những lan
can đó cần phải đủ chắc chắn để về mặt lý thuyết, chúng có thể ngăn chặn
một thảm họa có thể xảy ra.
Việc ngăn chặn sẽ cần phải đáp ứng bản chất của công nghệ và chuyển nó
theo những hướng dễ kiểm soát hơn. Hãy nhớ lại bốn đặc điểm của làn sóng
sắp tới: bất đối xứng, siêu tiến hóa, đa dụng và tự chủ. Mỗi tính năng
phải được xem qua lăng kính khả năng chứa đựng. Trước khi phác thảo một
chiến lược, bạn nên hỏi những loại câu hỏi sau đây để tìm ra những con
đường đầy hứa hẹn:
Công nghệ này có thể sử dụng đa dạng và có mục đích

chung hay cụ thể? Vũ khí hạt nhân là một công nghệ đặc biệt
với một mục đích, trong khi máy tính vốn có nhiều công dụng.
Càng có nhiều trường hợp sử dụng tiềm năng thì càng khó
quản lý. Thay vì những hệ thống chung, những hệ thống đó
nên khuyến khích phạm vi hẹp hơn và tên miền cụ thể hơn.
Công nghệ có đang chuyển từ nguyên tử sang bit không? Công nghệ càng
phi vật chất hóa thì nó càng phải chịu những hiệu ứng siêu tiến hóa khó
kiểm soát. Các lĩnh vực như thiết kế vật liệu hoặc phát triển thuốc
sẽ tăng tốc nhanh chóng, khiến tốc độ tiến bộ trở nên khó theo dõi hơn.
Giá cả và độ phức tạp có giảm xuống không, và nếu giảm thì nhanh như thế nào?
Giá máy bay chiến đấu không giảm như giá bóng bán dẫn hoặc phần cứng tiêu
dùng. Mối đe dọa bắt nguồn từ điện toán cơ bản có bản chất rộng hơn mối
đe dọa từ máy bay chiến đấu, bất chấp khả năng hủy diệt rõ ràng của loại máy
bay này.
Có những lựa chọn thay thế khả thi nào sẵn sàng hoạt động không? CFC có
thể bị cấm một phần vì có những chất thay thế rẻ hơn và an toàn
hơn để làm lạnh. Những lựa chọn thay thế nào có sẵn? Càng có
nhiều lựa chọn thay thế an toàn thì việc loại bỏ dần việc sử dụng càng
dễ dàng hơn.
Công nghệ có cho phép tác động bất đối xứng không? Hãy nghĩ đến một đàn
máy bay không người lái chống lại quân đội thông thường hoặc một máy tính
nhỏ hoặc virus sinh học đang phá hủy các hệ thống xã hội quan trọng.
Rủi ro của một số công nghệ nhất định có thể gây bất ngờ và khai thác
lỗ hổng là lớn hơn.
Liệu nó có đặc điểm tự trị? Có cơ hội để tự học hoặc vận hành mà không có
sự giám sát không? Hãy nghĩ đến các ổ gen, vi rút, phần mềm độc hại
và tất nhiên là cả robot. Công nghệ được thiết kế càng đòi hỏi sự can thiệp
của con người thì càng ít có khả năng mất kiểm soát.
Liệu nó có mang lại lợi thế chiến lược địa chính trị to lớn không?
Ví dụ, vũ khí hóa học có những ưu điểm hạn chế nhưng cũng có nhiều nhược
điểm, trong khi việc đi trước về AI hoặc sinh học lại có những mặt tích
cực to lớn, cả về kinh tế và quân sự. Do đó, việc nói không càng khó hơn.
Nó thiên về tấn công hay phòng thủ? Trong Thế chiến thứ hai,
việc phát triển các loại tên lửa như V-2 đã hỗ trợ các hoạt
động tấn công. Nhưng công nghệ như radar đã tăng cường khả năng phòng thủ.
Định hướng phát triển theo hướng phòng thủ hơn là tấn công có
xu hướng ngăn chặn.
Có những hạn chế về nguồn lực hoặc kỹ thuật đối với việc
phát minh, phát triển và triển khai nó không? Chip silicon
đòi hỏi vật liệu, máy móc và kiến thức chuyên dụng và tập
trung cao độ. Nhân tài sẵn có cho một công ty khởi nghiệp
về sinh học tổng hợp, xét trên bình diện toàn cầu, vẫn còn
khá nhỏ. Cả hai đều giúp ngăn chặn trong thời gian tới.
Ví dụ, khi ma sát bổ sung giữ mọi thứ trong thế giới hữu hình của các
nguyên tử hoặc làm cho mọi thứ trở nên đắt tiền hoặc nếu dễ dàng có sẵn các
lựa chọn thay thế an toàn hơn thì sẽ có nhiều cơ hội ngăn chặn hơn vì việc
làm chậm công nghệ, hạn chế quyền truy cập hoặc loại bỏ chúng sẽ dễ dàng hơn
toàn bộ. Các công nghệ cụ thể dễ quản lý hơn các công nghệ sử dụng đa dạng,
nhưng việc quản lý việc sử dụng đa dạng lại quan trọng hơn. Tương tự như
vậy, khả năng thực hiện các hành động tấn công hoặc quyền tự chủ càng cao
thì yêu cầu ngăn chặn càng lớn. Nếu bạn có thể giữ giá cả và khả năng tiếp
cận dễ dàng ngoài tầm với của nhiều người thì việc phổ biến sẽ trở nên khó
khăn hơn. Hãy đặt những câu hỏi như thế này và tầm nhìn toàn diện về ngăn
chặn sẽ bắt đầu xuất hiện.
TRƯỚC LŨ LŨ
Tôi đã làm việc về vấn đề này trong suốt mười lăm năm. Trong thời gian đó, tôi
đã cảm nhận được sức mạnh to lớn của những gì được mô tả trong cuốn sách này,
của những động lực đó và của nhu cầu cấp thiết phải có câu trả lời ngay cả khi
những đường nét của tình thế tiến thoái lưỡng nan ngày càng rõ ràng hơn. Tuy
nhiên, ngay cả tôi cũng phải ngạc nhiên trước những gì công nghệ đã làm được trong một vài
những năm ngắn ngủi. Tôi đã phải vật lộn với những ý tưởng này và quan sát tốc độ phát triển
ngày càng tăng.
Thực tế là trước đây chúng ta thường không kiểm soát hoặc kiềm chế công nghệ. Và nếu chúng
ta muốn làm như vậy ngay bây giờ, thì sẽ cần một thứ gì đó hoàn toàn mới, một chương trình toàn
diện về an toàn, đạo đức, quy định và kiểm soát mà thậm chí còn chưa thực sự có tên và dường
như không thể thực hiện được ngay từ đầu.
Tình thế tiến thoái lưỡng nan phải là một lời kêu gọi hành động cấp bách. Nhưng qua nhiều
năm, điều hiển nhiên là hầu hết mọi người đều thấy điều này rất đáng để tiếp thu. Tôi hoàn
toàn hiểu điều đó. Nó hầu như không có vẻ thật trong lần gặp đầu tiên. Trong tất cả các cuộc
thảo luận về AI và quy định, tôi đã rất ngạc nhiên khi thấy việc truyền đạt chính xác lý do
tại sao những rủi ro trong cuốn sách này cần phải được xem xét nghiêm túc so với hàng loạt
thách thức hiện tại hoặc sắp xảy ra, so với hàng loạt thách thức đang tồn tại hoặc sắp xảy ra,
lại khó đến mức nào, tại sao chúng lại ' Đó chỉ là những rủi ro gần như không liên quan hoặc
thuộc lĩnh vực khoa học viễn tưởng.
Một thách thức ngay cả khi bắt đầu cuộc trò chuyện này là công nghệ, trong trí tưởng tượng
phổ biến, đã trở nên gắn liền với một nhóm hẹp các ứng dụng thường là thừa. “Công nghệ” hiện
nay chủ yếu có nghĩa là các nền tảng truyền thông xã hội và các thiết bị đeo được để đo số bước
và nhịp tim của chúng ta. Thật dễ dàng để quên rằng công nghệ bao gồm các hệ thống tưới tiêu
cần thiết để nuôi sống hành tinh và các máy hỗ trợ sự sống cho trẻ sơ sinh. Công nghệ không
chỉ là cách lưu trữ ảnh selfie của bạn; nó đại diện cho khả năng tiếp cận nền văn hóa và trí
tuệ tích lũy của thế giới. Công nghệ không phải là một lĩnh vực thích hợp; nó là một siêu đối
tượng thống trị sự tồn tại của con người.
Một so sánh hữu ích ở đây là biến đổi khí hậu. Nó cũng giải quyết những rủi ro thường lan
tỏa, không chắc chắn, tạm thời, xảy ra ở nơi khác, thiếu sự nổi bật, adrenaline và tính tức
thời của một cuộc phục kích trên thảo nguyên - loại rủi ro mà chúng ta đã chuẩn bị sẵn sàng để
ứng phó. Về mặt tâm lý, không ai trong số này cảm thấy hiện tại. Bộ não thời tiền sử của chúng
ta nhìn chung không có khả năng đối phó với những mối đe dọa vô định hình như thế này.
Tuy nhiên, trong khoảng hơn một thập kỷ qua, thách thức về biến đổi khí hậu đã được chú
trọng hơn. Mặc dù thế giới vẫn thải ra lượng CO2 ngày càng tăng , các nhà khoa học ở khắp
mọi nơi đều có thể đo được phần triệu CO2 (ppm) trong khí quyển. Gần đây nhất là vào những
năm 1970, lượng carbon trong khí quyển toàn cầu ở mức thấp khoảng 300 ppm. Năm 2022 là 420
ppm. Dù ở Bắc Kinh, Berlin hay Burundi, dù là công ty dầu mỏ lớn hay trang trại gia đình,
mọi người đều có thể nhìn thấy một cách khách quan những gì đang xảy ra với khí hậu. Dữ liệu
mang lại sự rõ ràng.
Ác cảm bi quan còn khó khăn hơn nhiều khi các tác động có thể định lượng được một cách
trần trụi. Giống như biến đổi khí hậu, rủi ro công nghệ chỉ có thể được giải quyết ở quy mô
hành tinh nhưng không có sự rõ ràng tương đương.
Không có thước đo rủi ro hữu ích, không có đơn vị đe dọa khách quan nào được chia sẻ ở các
thủ đô quốc gia, phòng họp và cảm tình của công chúng, không có phần triệu để đo lường xem
công nghệ có thể làm gì hoặc ở đâu.
Không có tiêu chuẩn chung hoặc tiêu chuẩn rõ ràng nào mà chúng ta có thể kiểm tra hàng năm.
Không có sự đồng thuận giữa các nhà khoa học và nhà công nghệ về lĩnh vực tiên tiến. Không
có phong trào quần chúng nào đằng sau việc ngăn chặn nó, không có hình ảnh đồ họa nào về
những tảng băng trôi đang tan và những con gấu Bắc cực mắc kẹt hay những ngôi làng bị ngập
lụt để nâng cao nhận thức. Nghiên cứu ít người biết đến được công bố trên arXiv, trên các
blog Substack đình đám, hoặc trong các trang trắng của think tank khô khan hầu như không đề
cập đến vấn đề này ở đây.
Làm thế nào để chúng ta tìm thấy điểm chung giữa các chương trình nghị sự cạnh tranh?
Trung Quốc và Hoa Kỳ không có chung tầm nhìn hạn chế sự phát triển của AI; Meta sẽ không
chia sẻ quan điểm rằng mạng xã hội là một phần của vấn đề; Các nhà nghiên cứu AI và nhà
virus học tin rằng công việc của họ không phải là một phần quan trọng trong việc gây ra thảm
họa mà là để hiểu và ngăn chặn nó. Nhìn bề ngoài, “công nghệ” không phải là một vấn đề giống
như một hành tinh đang nóng lên.
Tuy nhiên, nó có thể là như vậy.
Bước đầu tiên là sự công nhận. Chúng ta cần bình tĩnh thừa nhận rằng làn sóng đang đến
và vấn đề nan giải là không thể tránh khỏi sự thay đổi chói tai. Hoặc là chúng ta có thể vật
lộn với vô số kết quả tốt và xấu được gây ra bởi sự cởi mở liên tục của chúng ta và
đuổi theo không chú ý, hoặc chúng ta có thể đối mặt với những rủi ro đen tối và độc
tài phát sinh từ những nỗ lực của chúng ta nhằm hạn chế sự phổ biến của các công
nghệ mạnh mẽ, hơn nữa là những rủi ro vốn có trong quyền sở hữu tập trung các công
nghệ đó.
Chọn thuốc độc của bạn. Cuối cùng, sự cân bằng này phải được đạt được khi tham
khảo ý kiến của mọi người. Nó càng được công chúng chú ý thì càng tốt. Nếu cuốn sách
này gợi lên những lời chỉ trích, lập luận, đề xuất và phản biện thì càng nhiều càng
tốt.
Sẽ không có một giải pháp kỳ diệu nào từ một căn phòng đầy những người thông
minh trong một hầm trú ẩn ở đâu đó. Hoàn toàn ngược lại. Giới tinh hoa hiện nay quá
chú trọng đến thái độ ác cảm bi quan của mình đến mức họ sợ phải thành thật về những
nguy hiểm mà chúng ta phải đối mặt. Họ vui vẻ bày tỏ quan điểm và tranh luận một
cách riêng tư, ít ra mặt và nói về vấn đề đó. Họ đã quen với một thế giới kiểm soát
và trật tự: sự kiểm soát của một CEO đối với một công ty, của một thống đốc ngân
hàng trung ương đối với lãi suất, của một quan chức đối với việc mua sắm quân sự,
hoặc của một nhà quy hoạch thị trấn về việc phải khắc phục những ổ gà. Đòn bẩy kiểm
soát của họ chắc chắn là không hoàn hảo, nhưng họ đã được biết đến, đã thử và kiểm
tra và nhìn chung chúng hoạt động hiệu quả. Ở đây không như vậy.
Đây là một khoảnh khắc độc đáo. Làn sóng sắp tới thực sự đang đến nhưng nó vẫn
chưa quét qua chúng ta. Trong khi những động lực không thể ngăn cản đã bị khóa lại,
hình thức cuối cùng của làn sóng, đường nét chính xác của tình thế tiến thoái lưỡng
nan, vẫn chưa được quyết định. Chúng ta đừng lãng phí hàng thập kỷ chờ đợi để tìm hiểu.
Hãy bắt đầu quản lý nó ngay hôm nay.
Trong chương tiếp theo, tôi phác thảo mười lĩnh vực trọng tâm. Đây không phải
là một bản đồ hoàn chỉnh, không phải là một tập hợp các câu trả lời cuối cùng mà là
nền tảng cần thiết. Mục đích của tôi là gieo mầm những ý tưởng với hy vọng thực hiện
những bước quan trọng đầu tiên hướng tới việc ngăn chặn. Điều thống nhất giữa những
ý tưởng này là chúng đều hướng tới những lợi ích cận biên, sự tổng hợp chậm rãi và
liên tục của những nỗ lực nhỏ để tạo ra xác suất lớn hơn về kết quả tốt. Chúng nhằm
mục đích tạo ra một bối cảnh khác cho cách xây dựng và triển khai công nghệ: tìm
cách câu giờ, giảm tốc độ, dành không gian để nghiên cứu nhiều hơn về các câu trả
lời, thu hút sự chú ý, xây dựng liên minh, đẩy mạnh công việc kỹ thuật.
Tôi tin rằng việc ngăn chặn làn sóng sắp tới là không thể thực hiện được
trong thế giới hiện tại của chúng ta . Tuy nhiên, những gì các bước này có thể
làm là thay đổi các điều kiện cơ bản. Thúc đẩy hiện trạng để việc ngăn chặn có
cơ hội. Chúng ta nên làm tất cả những điều này với hiểu biết rằng nó có thể
thất bại nhưng đó là cơ hội tốt nhất của chúng ta để xây dựng một thế giới nơi
có thể ngăn chặn — và sự phát triển của con người —.
Không có gì đảm bảo ở đây, không có con thỏ nào bị đội mũ ra ngoài.
Bất cứ ai hy vọng có một giải pháp nhanh chóng, một câu trả lời thông minh sẽ
phải thất vọng. Khi tiến đến tình thế tiến thoái lưỡng nan, chúng ta lại rơi
vào tình thế quá giống con người như mọi khi: cống hiến mọi thứ và hy vọng mọi
việc sẽ thành công. Đây là cách tôi nghĩ nó có thể—chỉ có thể—kết hợp với nhau.
CHƯƠNG 14
MƯỜI BƯỚC ĐẾN
CHỨA
Nghĩ trong số mười ý tưởng được trình bày ở đây dưới dạng vòng
tròn đồng tâm. Chúng tôi bắt đầu từ quy mô nhỏ và trực tiếp, gần gũi
với công nghệ, tập trung vào các cơ chế cụ thể để áp đặt các ràng buộc
theo thiết kế. Từ đó, mỗi ý tưởng dần dần được mở rộng hơn, leo lên
một bậc thang can thiệp, rời xa các chi tiết kỹ thuật cứng nhắc, mã
thô và nguyên vật liệu, và tiến lên và hướng tới các hành động phi kỹ
thuật nhưng không kém phần quan trọng, những loại bổ sung thêm động
lực kinh doanh mới. , chính phủ cải cách, các hiệp ước quốc tế, một
nền văn hóa công nghệ lành mạnh hơn và một phong trào toàn cầu phổ biến.
Chính cách mà tất cả các lớp hành này hình thành nên chúng trở nên
mạnh mẽ; mỗi một mình là không đủ. Mỗi loại đòi hỏi những hình thức can
thiệp rất khác nhau, với những kỹ năng, năng lực và con người khác nhau;
mỗi trường nhìn chung là một trường con rộng lớn và chuyên biệt của riêng nó.
Nói chung, tôi tin rằng, chúng có thể tạo nên một thứ gì đó có hiệu quả.
Hãy bắt đầu từ đầu, với chính công nghệ.
1. AN TOÀN: CHƯƠNG TRÌNH APOLLO

ĐỂ AN TOÀN KỸ THUẬT
Cách đây vài năm, nhiều mô hình ngôn ngữ lớn gặp vấn đề. Nói một cách thẳng
thắn, họ đã phân biệt chủng tộc. Người dùng có thể dễ dàng tìm ra cách khiến
họ nôn ra tài liệu phân biệt chủng tộc hoặc giữ quan điểm phân biệt chủng tộc mà họ
đã thu thập được thông qua việc quét qua kho văn bản khổng lồ mà họ đã được đào tạo. Có vẻ như
thành kiến độc hại đã ăn sâu vào chữ viết của con người và sau đó được khuếch đại bởi AI. Điều
này khiến nhiều người kết luận rằng toàn bộ quá trình thiết lập đã vi phạm đạo đức, không thể tồn
tại về mặt đạo đức; không có cách nào LLM có thể được kiểm soát đủ tốt để được tung ra công chúng
vì những tác hại rõ ràng.
Nhưng sau đó LLM, như chúng ta đã thấy, đã thành công. Vào năm 2023, rõ ràng là, so với các
hệ thống ban đầu, việc đưa những thứ như ChatGPT vào những bình luận phân biệt chủng tộc là vô
cùng khó khăn. Đây có phải là một vấn đề được giải quyết? Tuyệt đối không. Vẫn còn nhiều ví dụ
về LLM thiên vị, thậm chí phân biệt chủng tộc một cách công khai, cũng như các vấn đề nghiêm
trọng với mọi thứ, từ thông tin không chính xác đến thao túng. Nhưng đối với những người trong
chúng ta, những người đã làm việc trong lĩnh vực này ngay từ đầu, sự tiến bộ theo cấp số nhân
trong việc loại bỏ các kết quả xấu là không thể tin được, không thể phủ nhận.
Thật dễ dàng để bỏ qua việc chúng ta đã tiến được bao xa và nhanh như thế nào.
Động lực chính đằng sau tiến trình này được gọi là học tăng cường từ phản hồi của con người.
Để khắc phục LLM thiên vị của họ, các nhà nghiên cứu đã thiết lập các cuộc trò chuyện nhiều chiều
được xây dựng khéo léo với mô hình, khiến mô hình nói những điều đáng ghét, có hại hoặc xúc phạm,
đồng thời xem nó sai ở đâu và như thế nào. Đánh dấu những bước đi sai lầm này, các nhà nghiên
cứu sau đó sẽ tích hợp lại những hiểu biết sâu sắc này của con người vào mô hình, cuối cùng dạy
cho nó một thế giới quan đáng mơ ước hơn, theo cách không hoàn toàn khác với cách chúng ta cố
gắng dạy trẻ không nói những điều không phù hợp trên bàn ăn tối. Khi các kỹ sư nhận thức rõ hơn
về các vấn đề đạo đức cố hữu trong hệ thống của họ, họ cũng trở nên cởi mở hơn trong việc tìm
kiếm những cải tiến kỹ thuật để giúp giải quyết chúng.
Giải quyết vấn đề phân biệt chủng tộc và thiên vị trong LLM là một ví dụ về mức độ cần thiết
của việc triển khai cẩn thận và có trách nhiệm để nâng cao tính an toàn của các mô hình này. Tiếp
xúc với thực tế giúp các nhà phát triển học hỏi, sửa chữa và cải thiện sự an toàn của họ.
Mặc dù thật sai lầm khi nói rằng chỉ sửa chữa kỹ thuật có thể giải quyết các vấn đề xã hội
và đạo đức do AI gây ra, nhưng điều đó cho thấy chúng sẽ làm được như thế nào.
Hãy là một phần của nó. An toàn kỹ thuật, cận cảnh, trong mật mã, trong phòng thí nghiệm,
là mục đầu tiên trong bất kỳ chương trình ngăn chặn nào.
khi nghe từ “ngăn chặn” và giả sử bạn không phải là một học giả về quan
hệ quốc tế, rất có thể bạn sẽ nghĩ đến ý nghĩa vật lý của việc giữ một
thứ gì đó bên trong. Chắc chắn, công nghệ ngăn chặn về mặt vật lý là
quan trọng. Ví dụ, chúng ta đã thấy ngay cả phòng thí nghiệm BSL-4 cũng
có thể bị rò rỉ như thế nào. Loại môi trường nào có thể khiến điều đó
hoàn toàn không thể xảy ra? BSL-7 hoặc -n trông như thế nào?
Mặc dù tôi đã lập luận ở chương trước rằng việc ngăn chặn không nên bị
thu gọn thành một loại hộp ma thuật, nhưng điều đó không có nghĩa là chúng
ta không muốn tìm ra cách xây dựng một chiếc hộp như một phần của nó. Kiểm
soát cuối cùng là kiểm soát vật lý cứng, máy chủ, vi khuẩn, máy bay không
người lái, robot và thuật toán. “Quyền anh” AI là hình thức ngăn chặn công
nghệ ban đầu và cơ bản. Điều này sẽ không bao gồm kết nối internet, hạn
chế tiếp xúc giữa con người với nhau, giao diện bên ngoài nhỏ và hạn chế.
Theo nghĩa đen, nó sẽ chứa nó trong các hộp vật lý có vị trí xác định. Về
lý thuyết, một hệ thống như thế này—được gọi là khe hở không khí—có thể
ngăn AI tương tác với thế giới rộng lớn hơn hoặc bằng cách nào đó “trốn thoát”.
Sự cách ly về mặt vật lý chỉ là một khía cạnh của việc chuyển đổi
kiến trúc an toàn kỹ thuật để đáp ứng thách thức của làn sóng tiếp
theo. Tận dụng tốt nhất những gì hiện có là một sự khởi đầu. Ví dụ,
năng lượng hạt nhân bị mang tiếng xấu nhờ những thảm họa nổi tiếng
như Chernobyl và Fukushima. Nhưng nó thực sự an toàn đáng kể. Cơ quan
Năng lượng Nguyên tử Quốc tế đã công bố hơn một trăm báo cáo an toàn
đề cập đến các tiêu chuẩn kỹ thuật cụ thể cho các tình huống nhất
định, từ việc phân loại chất thải phóng xạ đến việc chuẩn bị sẵn sàng
trong trường hợp khẩn cấp. Các cơ quan như Viện Kỹ sư Điện và Điện tử
duy trì hơn hai nghìn tiêu chuẩn an toàn kỹ thuật về các công nghệ từ
phát triển robot tự động đến học máy. Công nghệ sinh học và dược phẩm
có
hoạt động theo các tiêu chuẩn an toàn vượt xa tiêu chuẩn của hầu hết các
doanh nghiệp phần mềm trong nhiều thập kỷ. Cần phải nhớ rằng những năm nỗ lực
an toàn đã tạo ra nhiều công nghệ hiện có—và phát triển dựa trên nó như thế nào.
Nghiên cứu về an toàn của Frontier AI vẫn là một lĩnh vực non trẻ, chưa
phát triển, tập trung vào việc giữ cho các hệ thống tự động ngày càng vượt
qua khả năng hiểu hoặc kiểm soát chúng của chúng ta. Tôi thấy những câu hỏi
xung quanh vấn đề kiểm soát hoặc liên kết giá trị này là những tập hợp con
của vấn đề ngăn chặn rộng hơn. Trong khi hàng tỷ USD được đầu tư vào robot,
công nghệ sinh học và AI, số tiền tương đối nhỏ được chi cho khuôn khổ an
toàn kỹ thuật tương đương với việc giữ chúng hoạt động bình thường. Ví dụ, cơ
quan giám sát chính của vũ khí sinh học, Hội nghị vũ khí sinh học, có ngân
sách chỉ 1,4 triệu USD và chỉ có bốn nhân viên toàn thời gian - ít hơn mức
trung bình của McDonald's.
Số lượng nhà nghiên cứu về an toàn AI vẫn còn rất ít: tăng từ khoảng một
trăm tại các phòng thí nghiệm hàng đầu trên toàn thế giới vào năm 2021 lên ba
hoặc bốn trăm vào năm 2022. Do ngày nay có khoảng ba mươi đến bốn mươi nghìn
nhà nghiên cứu AI (và một số lượng tương tự những người có khả năng hiểu được
vấn đề an toàn AI). cùng với DNA), nó cực kỳ nhỏ. Ngay cả việc tuyển dụng gấp
10 lần—không chắc sẽ gặp phải những hạn chế về nhân tài—cũng sẽ không giải
quyết được quy mô của thách thức. So với mức độ sai sót có thể xảy ra, nghiên
cứu về an toàn và đạo đức về AI là rất nhỏ. Chỉ một số ít tổ chức, do những
thách thức về nguồn lực, coi trọng các vấn đề an toàn kỹ thuật. Tuy nhiên,
những quyết định an toàn được đưa ra hôm nay sẽ làm thay đổi tiến trình công
nghệ và nhân loại trong tương lai.
Có một việc phải làm rõ ràng ở đây: khuyến khích, khuyến khích và trực
tiếp tài trợ cho nhiều công việc hơn nữa trong lĩnh vực này. Đã đến lúc thực
hiện chương trình Apollo về an toàn AI và an toàn sinh học. Hàng trăm ngàn
người nên làm việc trên nó. Cụ thể, một đề xuất luật tốt sẽ yêu cầu một phần
cố định - chẳng hạn, tối thiểu là 20% - trong ngân sách nghiên cứu và phát
triển của các công ty hàng đầu phải được hướng tới các nỗ lực đảm bảo an
toàn, với nghĩa vụ công bố những phát hiện quan trọng cho một nhóm công tác
của chính phủ. để tiến trình đó có thể được theo dõi và chia sẻ. Các sứ mệnh
Apollo ban đầu rất tốn kém và khó khăn,
nhưng họ đã thể hiện tham vọng to lớn đúng đắn và thái độ có thể làm được của họ
khi đối mặt với những khó khăn khó khăn đã thúc đẩy sự phát triển của các công nghệ
từ chất bán dẫn và phần mềm đến đồng hồ thạch anh và tấm pin mặt trời. Điều này có
thể làm điều gì đó tương tự để đảm bảo an toàn.
Mặc dù số lượng hiện nay còn ít, nhưng từ kinh nghiệm của tôi, tôi biết rằng có
một làn sóng quan tâm đang nổi lên xung quanh những câu hỏi này.
Các sinh viên và những người trẻ khác mà tôi gặp đang bàn tán sôi nổi về các vấn đề
như sự liên kết của AI và khả năng ứng phó với đại dịch. Nói chuyện với họ và thấy
rõ rằng thách thức trí tuệ hấp dẫn nhưng họ cũng bị thu hút bởi mệnh lệnh đạo đức.
Họ muốn giúp đỡ và cảm thấy có nghĩa vụ phải làm tốt hơn. Tôi tin tưởng rằng nếu có
việc làm và chương trình nghiên cứu thì nhân tài sẽ theo sau.
Đối với các chuyên gia an toàn kỹ thuật của tương lai, có rất nhiều hướng đi đầy
hứa hẹn để khám phá. Ví dụ, khả năng chuẩn bị cho đại dịch có thể được tăng cường
đáng kể bằng cách sử dụng bóng đèn có bước sóng thấp để tiêu diệt vi rút. Phát ra
ánh sáng có bước sóng từ 200 đến 230 nanomet, gần với phổ tử ngoại, chúng có thể
tiêu diệt virus mà không xuyên qua lớp ngoài của da: vũ khí lợi hại chống lại đại
dịch và sự lây lan dịch bệnh rộng rãi hơn.
Và nếu đại dịch COVID-19 dạy chúng ta một điều, thì đó là giá trị của một phương pháp
tiếp cận tổng hợp, tăng tốc xuyên suốt quá trình nghiên cứu, triển khai và quản lý
các loại vắc xin mới.
Trong AI, an toàn kỹ thuật cũng có nghĩa là hộp cát và mô phỏng an toàn để tạo
ra những khoảng trống không khí an toàn có thể chứng minh được để các AI tiên tiến
có thể được kiểm tra nghiêm ngặt trước khi chúng được cấp quyền truy cập vào thế
giới thực. Điều đó có nghĩa là phải làm việc nhiều hơn nữa để giải quyết vấn đề không
chắc chắn, trọng tâm chính hiện nay — tức là AI sẽ giao tiếp như thế nào khi nó có thể sai?
Một trong những vấn đề với LLM là họ vẫn mắc phải vấn đề ảo giác, theo đó họ thường
tự tin khẳng định những thông tin cực kỳ sai lệch là chính xác. Điều này nguy hiểm
gấp đôi vì họ thường đúng ở cấp độ chuyên gia. Với tư cách là người dùng, bạn rất dễ
bị ru ngủ vào cảm giác an toàn sai lầm và cho rằng mọi thông tin đưa ra từ hệ thống
đều là sự thật.
Ví dụ: tại Inflection, chúng tôi đang tìm cách khuyến khích AI có tên Pi —
dành cho trí thông minh cá nhân — theo mặc định phải thận trọng và không chắc
chắn, đồng thời khuyến khích người dùng luôn quan trọng. Chúng tôi đang thiết
kế Pi để thể hiện sự nghi ngờ bản thân, thu hút phản hồi thường xuyên và mang
tính xây dựng, đồng thời nhanh chóng nhường bước khi cho rằng con người chứ
không phải máy móc là đúng. Chúng tôi và những người khác cũng đang thực hiện
một hướng nghiên cứu quan trọng nhằm kiểm tra tính xác thực của tuyên bố của AI
bằng cách sử dụng cơ sở kiến thức của bên thứ ba mà chúng tôi biết là đáng tin
cậy. Ở đây là về việc đảm bảo kết quả đầu ra của AI cung cấp các trích dẫn,
nguồn và bằng chứng có thể thẩm vấn để người dùng có thể điều tra thêm khi phát
sinh khiếu nại đáng ngờ.
Giải thích là một biên giới an toàn kỹ thuật lớn khác. Hãy nhớ lại rằng hiện
tại không ai có thể giải thích chính xác tại sao một mô hình lại tạo ra kết quả
đầu ra như nó. Việc tìm ra cách để các mô hình giải thích một cách toàn diện các
quyết định của họ hoặc đưa chúng ra để xem xét kỹ lưỡng đã trở thành một bài
toán kỹ thuật quan trọng đối với các nhà nghiên cứu về an toàn. Vẫn còn những
ngày đầu cho nghiên cứu này, nhưng có một số dấu hiệu đầy hứa hẹn cho thấy các
mô hình AI có thể đưa ra lời giải thích cho kết quả đầu ra của chúng, nếu chưa
đưa ra lý do nhân quả cho chúng, mặc dù vẫn chưa rõ mức độ tin cậy của những
kết quả này.
Ngoài ra còn có công việc tuyệt vời đang được thực hiện trong việc sử dụng
các kiến trúc đơn giản hóa để khám phá những kiến trúc phức tạp hơn, thậm chí
là tự động hóa quá trình nghiên cứu liên kết: xây dựng AI để giúp chúng ta chứa
AI. Các nhà nghiên cứu đang nghiên cứu một thế hệ “AI quan trọng” có thể giám
sát và đưa ra phản hồi về các kết quả đầu ra AI khác với mục tiêu cải thiện
chúng ở tốc độ và quy mô mà con người không thể sánh được— tốc độ và quy mô mà
chúng ta thấy trong làn sóng sắp tới. Bản thân việc quản lý các công cụ mạnh mẽ
đòi hỏi phải có những công cụ mạnh mẽ.
Nhà khoa học máy tính Stuart Russell đề xuất sử dụng loại nghi ngờ có hệ
thống tích hợp mà chúng tôi đang khám phá tại Inflection để tạo ra thứ mà ông
gọi là “AI có thể chứng minh là có lợi”. Thay vì cung cấp cho AI một tập hợp
các mục tiêu bên ngoài cố định có trong cái được gọi là hiến pháp bằng văn bản,
ông khuyến nghị các hệ thống nên thận trọng suy luận các mục tiêu của chúng ta.
sở thích và kết thúc. Họ nên cẩn thận xem và học hỏi. Về lý thuyết, điều
này sẽ tạo ra nhiều chỗ cho sự nghi ngờ trong hệ thống và tránh những kết
quả tiêu cực.
Vẫn còn nhiều thách thức chính: Làm cách nào bạn có thể xây dựng các
giá trị an toàn vào một hệ thống AI mạnh mẽ có khả năng ghi đè các hướng
dẫn của chính nó? Làm thế nào AI có thể suy ra những giá trị này từ con người?
Một câu hỏi đang diễn ra khác là làm thế nào để giải quyết vấn đề “có thể
sửa được”, đảm bảo rằng luôn có thể truy cập và sửa chữa các hệ thống. Nếu
bạn nghĩ rằng tất cả những điều này nghe có vẻ giống như những tính năng
an toàn bắt buộc phải có của AI tiên tiến thì bạn đã đúng. Sự tiến bộ ở
đây cần phải theo kịp.
Chúng ta cũng nên xây dựng các ràng buộc kỹ thuật mạnh mẽ trong quá
trình phát triển và sản xuất. Hãy nghĩ xem tất cả các máy photocopy và máy
in hiện đại đều được chế tạo với công nghệ ngăn cản bạn sao chép hoặc in
tiền, thậm chí một số máy còn tắt nếu bạn cố gắng. Ví dụ: giới hạn tài
nguyên đối với số lượng máy tính đào tạo được sử dụng để tạo mô hình có
thể đặt ra giới hạn về tốc độ tiến triển (ít nhất là trên chiều đó). Hiệu
suất có thể được điều chỉnh để mô hình chỉ có thể chạy trên một số phần
cứng được kiểm soát chặt chẽ nhất định. Hệ thống AI có thể được xây dựng
với các biện pháp bảo vệ bằng mật mã để đảm bảo trọng lượng mô hình—IP có
giá trị nhất trong hệ thống—chỉ có thể được sao chép trong một số lần giới
hạn hoặc chỉ trong một số trường hợp nhất định.
Thử thách cấp cao nhất, dù là trong sinh học tổng hợp, robot hay AI,
là chế tạo một công tắc tắt chống đạn, một phương tiện đóng cửa bất kỳ
công nghệ nào có nguy cơ vượt khỏi tầm kiểm soát. Điều thông thường là
luôn đảm bảo có công tắc tắt trong bất kỳ hệ thống tự trị hoặc mạnh mẽ
nào. Làm thế nào để thực hiện điều này với các công nghệ được phân phối,
linh hoạt và có phạm vi ảnh hưởng sâu rộng như trong làn sóng sắp tới—
những công nghệ chưa có hình thức chính xác rõ ràng, những công nghệ mà
trong một số trường hợp có thể chủ động chống lại—là một câu hỏi mở. Đó là
một thách thức lớn. Tôi có nghĩ điều đó là có thể không? Có - nhưng không
ai nên hạ thấp mức độ khó khăn của nó dù chỉ một giây.
Quá nhiều công việc về an toàn mang tính gia tăng, tập trung vào các đánh giá
tác động ở phạm vi hẹp, các vấn đề kỹ thuật nhỏ hoặc khắc phục các sự cố bùng phát
sau khi ra mắt thay vì giải quyết các vấn đề cơ bản trước thời hạn.
Thay vào đó, chúng ta nên xác định sớm các vấn đề và sau đó đầu tư nhiều thời gian
và nguồn lực hơn vào các nguyên tắc cơ bản. Suy nghĩ lớn. Tạo ra các tiêu chuẩn
chung. Các tính năng an toàn không nên được xem xét sau mà là đặc tính thiết kế vốn
có của tất cả các công nghệ mới này, trạng thái nền tảng của mọi thứ tiếp theo. Bất
chấp những thách thức khốc liệt, tôi thực sự phấn khích trước sự đa dạng và khéo léo
của các ý tưởng ở đây. Hãy cung cấp cho họ nguồn oxy trí tuệ và hỗ trợ vật chất để
thành công, nhận ra rằng mặc dù kỹ thuật không bao giờ là câu trả lời toàn diện
nhưng nó là một phần cơ bản của câu trả lời.
2. KIỂM TOÁN: KIẾN THỨC LÀ SỨC MẠNH; SỨC MẠNH LÀ

KIỂM SOÁT
Kiểm toán nghe có vẻ nhàm chán. Có lẽ cần thiết—nhưng buồn tẻ chết người. Nhưng chúng
rất quan trọng để ngăn chặn. Việc tạo các vùng chứa vật lý và ảo an toàn—loại công
việc mà chúng ta vừa thấy—là nền tảng. Nhưng một mình thì chưa đủ. Trên thực tế,
việc giám sát có ý nghĩa và các quy tắc có thể thực thi cũng như xem xét việc triển
khai kỹ thuật là rất quan trọng.
Những tiến bộ và quy định về an toàn kỹ thuật sẽ khó có hiệu quả nếu bạn không thể
xác minh rằng chúng đang hoạt động như dự kiến. Làm thế nào bạn có thể chắc chắn
điều gì đang thực sự xảy ra và kiểm tra xem bạn có kiểm soát được không? Đó là một
thách thức to lớn về mặt kỹ thuật và xã hội.
Niềm tin đến từ sự minh bạch. Chúng tôi thực sự cần có khả năng xác minh, ở mọi
cấp độ, tính an toàn, tính toàn vẹn hoặc tính chất không bị xâm phạm của một hệ
thống. Đến lượt nó là về quyền truy cập và năng lực kiểm toán, về các hệ thống thử
nghiệm đối nghịch, có các nhóm tin tặc mũ trắng hoặc thậm chí AI thăm dò các điểm
yếu, sai sót và thành kiến. Đó là việc xây dựng công nghệ theo một cách hoàn toàn
khác, với các công cụ và kỹ thuật chưa tồn tại.

Sự giám sát bên ngoài là cần thiết. Hiện tại không có nỗ lực toàn cầu,
chính thức hoặc thường xuyên nào để kiểm tra các hệ thống đã triển khai. Không
có công cụ cảnh báo sớm về rủi ro công nghệ và không có cách thức thống nhất
hoặc nghiêm ngặt để biết liệu chúng có tuân thủ các quy định hay thậm chí tuân
thủ các tiêu chuẩn đã được thống nhất chung hay không. Không có thể chế, không
có các đánh giá tiêu chuẩn hóa cũng như không có các công cụ cần thiết. Do đó,
điểm khởi đầu là việc yêu cầu các công ty và nhà nghiên cứu làm việc ở lĩnh
vực tiên tiến, nơi có nguy cơ gây hại thực sự, chủ động cộng tác với các chuyên
gia đáng tin cậy trong các cuộc kiểm toán do chính phủ chỉ đạo đối với công
việc của họ, là lẽ thường cơ bản. Nếu có cơ quan nào như vậy tồn tại, tôi sẽ
vui vẻ hợp tác với nó tại Inflection.
Một vài năm trước, tôi đã đồng sáng lập một tổ chức xã hội dân sự và liên
ngành có tên là Quan hệ đối tác về AI để hỗ trợ loại công việc này. Chúng tôi
đã ra mắt nó với sự hỗ trợ của tất cả các công ty công nghệ lớn, bao gồm
DeepMind, Google, Facebook, Apple, Microsoft, IBM và OpenAI, cùng với nhiều
nhóm chuyên gia xã hội dân sự, bao gồm ACLU, EFF, Oxfam, UNDP và hai mươi người
khác. Ngay sau đó, họ khởi động Cơ sở dữ liệu sự cố AI, được thiết kế để báo
cáo bí mật về các sự kiện an toàn nhằm chia sẻ bài học với các nhà phát triển
khác. Hiện tại nó đã thu thập được hơn 1.200 báo cáo. Với hơn một trăm đối tác
từ các nhóm phi lợi nhuận, học thuật và truyền thông, mối quan hệ hợp tác này
mang lại những cơ hội quan trọng, trung lập cho các cuộc thảo luận và cộng tác
liên ngành. Có nhiều cơ hội cho nhiều tổ chức như thế này hơn và các chương
trình kiểm toán trong đó.
Một ví dụ thú vị khác là “đội đỏ” —nghĩa là chủ động tìm kiếm các lỗ hổng
trong mô hình AI hoặc hệ thống phần mềm. Điều này có nghĩa là tấn công hệ thống
của bạn theo những cách được kiểm soát để thăm dò điểm yếu và các dạng lỗi
khác. Những vấn đề được đưa ra hôm nay có thể sẽ được phóng đại trong tương
lai, và vì vậy việc hiểu chúng sẽ cho phép xây dựng các biện pháp bảo vệ khi hệ
thống phát triển mạnh mẽ hơn. Việc này càng được thực hiện công khai và tập thể
thì càng tốt, tạo điều kiện cho tất cả các nhà phát triển học hỏi lẫn nhau. Một
lần nữa, đã đến lúc tất cả phải lớn

các công ty công nghệ chủ động cộng tác ở đây, nhanh chóng chia sẻ hiểu biết
sâu sắc về những rủi ro mới, giống như ngành an ninh mạng từ lâu đã chia sẻ
kiến thức về các cuộc tấn công zero-day mới.
Đã đến lúc thành lập các đội đỏ do chính phủ tài trợ để tấn công và kiểm
tra nghiêm ngặt mọi hệ thống, đảm bảo rằng những hiểu biết sâu sắc được phát
hiện trong quá trình thực hiện sẽ được chia sẻ rộng rãi trong toàn ngành.
Cuối cùng, công việc này có thể được mở rộng quy mô và tự động hóa, với các
hệ thống AI được ủy quyền công khai được thiết kế đặc biệt để kiểm tra và phát
hiện các vấn đề ở người khác, đồng thời cho phép chính chúng được kiểm tra.
Các hệ thống được triển khai để theo dõi các công nghệ mới cần nhận ra
những điểm bất thường, những bước nhảy vọt không lường trước được về năng lực,
các dạng lỗi tiềm ẩn. Họ phải phát hiện các cuộc tấn công Trojan trông có vẻ
hợp pháp nhưng lại che giấu những điều bất ngờ không mong muốn. Để làm được
điều này, họ sẽ phải giám sát một loạt số liệu khổng lồ mà không rơi vào cái
bẫy luôn hấp dẫn của panopticon. Theo dõi chặt chẽ các tập dữ liệu quan trọng
được sử dụng để đào tạo mô hình, đặc biệt là các tập dữ liệu nguồn mở, phép
đo thư mục từ nghiên cứu và các sự cố có hại được công bố rộng rãi, sẽ là một
nơi hiệu quả và không xâm lấn để bắt đầu. Các API cho phép người khác sử dụng
các dịch vụ AI nền tảng không nên mở một cách mù quáng mà nên đi kèm với các
bước kiểm tra “biết khách hàng của bạn”, chẳng hạn như với các bộ phận của
ngành ngân hàng.
Về mặt kỹ thuật, có phạm vi cho các cơ chế giám sát có mục tiêu, cái mà
một số nhà nghiên cứu gọi là “giám sát có thể mở rộng” đối với “các hệ thống
có khả năng vượt trội hơn chúng ta về hầu hết các kỹ năng liên quan đến nhiệm
vụ hiện tại”. Đề xuất này nhằm xác minh về mặt toán học bản chất không gây hại
của các thuật toán, yêu cầu bằng chứng nghiêm ngặt từ mô hình cho thấy các
hành động hoặc kết quả đầu ra bị hạn chế rõ ràng. Về cơ bản, các hồ sơ hoạt
động được đảm bảo và các giới hạn xung quanh khả năng đã được tích hợp sẵn.
Việc xác minh và xác nhận hành vi của mô hình theo cách này có thể cung cấp
một phương tiện chính thức, khách quan để hướng dẫn và theo dõi một hệ thống.
Một ví dụ đầy hứa hẹn khác về cơ chế giám sát mới là SecureDNA, một chương
trình phi lợi nhuận do một nhóm các nhà khoa học khởi xướng.
và các chuyên gia bảo mật. Hiện tại, chỉ một phần DNA tổng hợp được sàng lọc để
tìm các yếu tố nguy hiểm tiềm tàng, nhưng nỗ lực toàn cầu như chương trình
SecureDNA nhằm kết nối mọi bộ tổng hợp – máy tính bảng tại nhà hoặc lớn và từ xa –
vào một hệ thống tập trung, an toàn và mã hóa có thể quét tìm mầm bệnh. trình tự
là một khởi đầu tuyệt vời. Nếu mọi người đang in các chuỗi có khả năng gây hại thì
họ sẽ bị gắn cờ. Dựa trên đám mây, miễn phí, bảo mật bằng mật mã, nó cập nhật theo
thời gian thực.
Sàng lọc tất cả quá trình tổng hợp DNA sẽ là một biện pháp giảm thiểu rủi ro
sinh học quan trọng và theo quan điểm của tôi, sẽ không hạn chế quá mức các quyền
tự do dân sự. Điều này sẽ không ngăn chặn thị trường chợ đen về lâu dài, nhưng việc
xây dựng các bộ tổng hợp không tuân thủ hoặc hack một hệ thống hiện có sẽ tạo ra
một trở ngại không hề nhỏ. Việc tổng hợp DNA hoặc dữ liệu đầu vào được kiểm tra
trước cho các mô hình AI sẽ tiến hành kiểm tra trước khi hệ thống được triển khai,
giúp giảm thiểu rủi ro.
Hiện nay, các phương pháp giám sát sự xuất hiện của công nghệ mới hoặc việc
các quốc gia thù địch và các chủ thể khác lạm dụng chúng đều khác nhau trên toàn
cầu. Đó là một bức tranh không đồng đều: sự kết hợp của thông tin nguồn mở thường
không rõ ràng, nghiên cứu học thuật và trong một số trường hợp là giám sát bí mật.
Đó là một bãi mìn chính trị và pháp lý, nơi mà các ngưỡng xâm nhập rất khác nhau
và tệ nhất là bị che khuất một cách có chủ ý. Chúng ta có thể làm tốt hơn. Tính
minh bạch không thể là tùy chọn. Phải có một lộ trình hợp pháp, được xác định rõ
ràng để kiểm tra bất kỳ công nghệ mới nào từ bên trong, trong mã, trong phòng thí
nghiệm, trong nhà máy hoặc ngoài tự nhiên.
Hầu hết việc này cần được thực hiện một cách tự nguyện, có sự cộng tác của các
nhà sản xuất công nghệ. Ở những nơi không thể thực hiện được theo cách đó, luật
pháp phải thực thi sự hợp tác. Và nếu điều đó không hiệu quả, có thể cân nhắc các
cách tiếp cận thay thế, chẳng hạn như phát triển các biện pháp bảo vệ kỹ thuật -
bao gồm cả cửa sau được mã hóa trong một số trường hợp - để cung cấp một hệ thống
truy cập có thể kiểm chứng được kiểm soát bởi cơ quan tư pháp hoặc một cơ quan độc
lập được công khai tương đương.

Trong trường hợp cơ quan thực thi pháp luật hoặc cơ quan quản lý yêu cầu truy cập
vào bất kỳ hệ thống công cộng hoặc tư nhân nào, điều này sẽ được quyết định dựa trên
giá trị của vụ việc. Tương tự như vậy, sổ cái mật mã ghi lại mọi hành vi sao chép hoặc
chia sẻ mô hình, hệ thống hoặc kiến thức sẽ giúp theo dõi sự phổ biến và sử dụng của
nó. Việc kết hợp các cơ chế ngăn chặn xã hội và công nghệ như thế này là rất quan
trọng. Các chi tiết cần nghiên cứu mới và tranh luận công khai. Chúng ta sẽ cần tìm
ra sự cân bằng mới, an toàn và khó lạm dụng giữa giám sát và an toàn để phù hợp với
làn sóng sắp tới.
Luật pháp, hiệp ước và các giải pháp kỹ thuật tuyệt vời đều rất tốt. Nhưng họ vẫn
cần phải căn chỉnh và kiểm tra, và làm như vậy mà không cần dùng đến các biện pháp
kiểm soát hà khắc. Xây dựng các công nghệ như những sáng kiến này không hề nhàm chán;
đó là một trong những thách thức xã hội và kỹ thuật mạnh mẽ nhất của thế kỷ 21. Việc
trang bị sẵn cả các tính năng an toàn kỹ thuật và các biện pháp kiểm tra là rất quan
trọng, nhưng chúng tôi cần một thứ mà chúng tôi không có. Thời gian.
3. ĐIỂM NGẮN: MUA THỜI GIAN
Tập Cận Bình lo lắng. Chủ tịch Trung Quốc nói với một nhóm các nhà khoa học nước này
vào tháng 9 năm 2020: “Chúng tôi dựa vào nhập khẩu một số thiết bị, linh kiện và
nguyên liệu thô quan trọng”. bị “điều khiển bởi người khác”. Thực tế, Trung Quốc chi
nhiều tiền cho việc nhập khẩu chip hơn là dầu mỏ. Không có nhiều điều công khai gây
lo ngại cho giới lãnh đạo Trung Quốc, nhưng sau khi đặt chiến lược dài hạn của mình
vào việc thống trị làn sóng sắp tới, nước này đã thừa nhận một điểm yếu nghiêm trọng.
Vài năm trước, một tờ báo do chính phủ điều hành đã sử dụng một hình ảnh sinh
động hơn để mô tả vấn đề tương tự: tờ báo này cho biết công nghệ Trung Quốc bị hạn
chế bởi một loạt “điểm nghẽn”. Nếu như

ai đó đã gây áp lực lên những điểm nghẹt thở đó, à, hàm ý đã rõ ràng.
Nỗi lo sợ của Tập đã thành hiện thực vào ngày 7 tháng 10 năm 2022. Mỹ
tuyên chiến với Trung Quốc, tấn công một trong những điểm nghẽn đó. Điều
này không liên quan đến việc bắn tên lửa qua eo biển Đài Loan. Không có
sự phong tỏa hải quân trên Biển Đông hay thủy quân lục chiến xông vào bờ
biển Phúc Kiến. Thay vào đó, nó đến từ một nguồn không chắc chắn: Bộ
Thương mại. Phát súng được bắn là các biện pháp kiểm soát xuất khẩu đối
với chất bán dẫn tiên tiến, các con chip hỗ trợ điện toán và trí tuệ nhân
tạo.
Các biện pháp kiểm soát xuất khẩu mới đã khiến các công ty Mỹ bán chip
điện toán hiệu suất cao cho Trung Quốc và bất kỳ công ty nào chia sẻ công
cụ để sản xuất những con chip này hoặc cung cấp bí quyết sửa chữa các con
chip hiện có là bất hợp pháp. Các chất bán dẫn tiên tiến nhất (thường bao
gồm các quy trình dưới 14 nanomet, nghĩa là 14 phần tỷ mét, khoảng cách
chỉ bằng 20 nguyên tử)—bao gồm IP, thiết bị sản xuất, bộ phận, thiết kế,
phần mềm, dịch vụ—để sử dụng trong các lĩnh vực như trí tuệ nhân tạo và
siêu máy tính hiện phải được cấp phép nghiêm ngặt. Các công ty sản xuất
chip hàng đầu của Mỹ như NVIDIA và AMD không còn có thể cung cấp cho
khách hàng Trung Quốc phương tiện và bí quyết để sản xuất những con chip
tiên tiến nhất thế giới. Công dân Mỹ làm việc trong lĩnh vực bán dẫn với
các công ty Trung Quốc phải đối mặt với sự lựa chọn: giữ việc làm và mất
quốc tịch Mỹ hoặc bỏ việc ngay lập tức.
Đó là một tia sét từ trời xanh, được thiết kế để tiêu diệt sự thống
trị của Trung Quốc đối với khối xây dựng quan trọng nhất của công nghệ
thế kỷ XXI. Đây không chỉ là một tranh chấp thương mại phức tạp. Tuyên bố
này là một Klaxon toàn năng ở Trung Nam Hải, khu phức hợp lãnh đạo của
Trung Quốc, được đưa ra ngay khi Đại hội Đảng Cộng sản đã bổ nhiệm Tập
làm người cai trị suốt đời một cách hiệu quả. Một giám đốc điều hành công
nghệ giấu tên đã phác thảo phạm vi của động thái này: “Họ không chỉ nhắm mục tiêu
ứng dụng quân sự, họ đang cố gắng ngăn chặn sự phát triển sức mạnh công nghệ
của Trung Quốc bằng mọi cách”.
Trong ngắn hạn và trung hạn, mọi người đều đồng thuận rằng điều này sẽ gây
tổn hại. Những thách thức trong việc xây dựng cơ sở hạ tầng này là rất lớn,
đặc biệt là về máy móc và kỹ thuật phức tạp để sản xuất ra những con chip tiên
tiến nhất thế giới, một lĩnh vực mà Trung Quốc đang tụt hậu. Tuy nhiên, về lâu
dài, điều đó có lẽ sẽ không ngăn được điều đó. Thay vào đó, họ đang đi theo
một con đường khó khăn và cực kỳ tốn kém nhưng vẫn hợp lý để hướng tới năng
lực bán dẫn trong nước. Nếu phải mất hàng trăm tỷ đô la (và sẽ như vậy), họ sẽ
chi tiêu.
Các công ty Trung Quốc đã tìm mọi cách để vượt qua sự kiểm soát, sử dụng
mạng lưới của các công ty vỏ bọc và bình phong cũng như dịch vụ điện toán đám
mây ở các nước bên thứ ba. NVIDIA, nhà sản xuất chip AI tiên tiến nhất thế
giới của Mỹ, gần đây đã điều chỉnh các chip tiên tiến nhất của mình để trốn
tránh các lệnh trừng phạt. Tuy nhiên, nó cho chúng ta thấy một điều quan trọng:
có ít nhất một đòn bẩy không thể phủ nhận. Sóng có thể bị chậm lại, ít nhất là
trong một khoảng thời gian và ở một số khu vực.
Câu giờ trong thời đại siêu tiến hóa là vô giá. Đã đến lúc phát triển các
chiến lược ngăn chặn tiếp theo. Đã đến lúc xây dựng các biện pháp an toàn bổ
sung. Đã đến lúc kiểm tra công tắc tắt đó. Đã đến lúc xây dựng các công nghệ
phòng thủ được cải tiến. Đã đến lúc củng cố quốc gia, điều tiết tốt hơn hoặc
thậm chí chỉ cần thông qua dự luật đó. Đã đến lúc đan kết các liên minh quốc
tế lại với nhau.
Hiện tại, công nghệ được thúc đẩy bởi sức mạnh của các biện pháp khuyến
khích hơn là tốc độ ngăn chặn. Các biện pháp kiểm soát xuất khẩu như nước cờ
bán dẫn của Hoa Kỳ có đủ loại tác động không chắc chắn đến cạnh tranh quyền
lực lớn, chạy đua vũ trang và tương lai, nhưng hầu hết mọi người đều đồng ý về
một điều: điều này sẽ làm chậm ít nhất một số sự phát triển công nghệ ở Trung
Quốc và nói rộng ra là làm chậm lại sự phát triển công nghệ ở Trung Quốc. thế giới.
Lịch sử gần đây cho thấy rằng dù đang phát triển trên toàn cầu, công nghệ
vẫn dựa trên một số trung tâm R&D và thương mại hóa quan trọng: các điểm nghẽn.
Hãy xem xét những điểm tập trung đáng chú ý sau:
Chẳng hạn như Xerox và Apple cho giao diện, hoặc DARPA và MIT, hoặc
Genentech, Monsanto, Stanford và UCSF cho kỹ thuật di truyền.
Điều đáng chú ý là di sản này đang dần biến mất.
Trong AI, phần lớn GPU tiên tiến nhất cần thiết cho các mẫu máy mới
nhất được thiết kế bởi một công ty, công ty NVIDIA của Mỹ. Hầu hết các chip
của nó được sản xuất bởi một công ty, TSMC, ở Đài Loan, công ty tiên tiến
nhất chỉ trong một tòa nhà, nhà máy phức tạp và đắt tiền nhất thế giới. Máy
móc của TSMC để sản xuất những con chip này đến từ một nhà cung cấp duy
nhất, công ty ASML của Hà Lan, cho đến nay là công ty công nghệ quan trọng
và có giá trị nhất Châu Âu.
Máy móc của ASML sử dụng kỹ thuật in thạch bản cực tím và sản xuất chip ở
mức độ chính xác nguyên tử đáng kinh ngạc, nằm trong số những hàng hóa được
sản xuất phức tạp nhất trong lịch sử. Ba công ty này đang nắm giữ những con
chip tiên tiến, một công nghệ bị hạn chế về mặt vật lý đến mức một ước tính
cho rằng chúng có giá lên tới 10 tỷ USD mỗi kg.
Chip không phải là điểm nghẹt thở duy nhất. Điện toán đám mây quy mô
công nghiệp cũng bị chi phối bởi sáu công ty lớn. Hiện tại, trên thực tế,
AGI đang được một số nhóm có nguồn lực tốt theo đuổi, đáng chú ý nhất là
DeepMind và OpenAI. Lưu lượng dữ liệu toàn cầu truyền qua một số lượng hạn
chế các cáp quang được tập hợp tại các điểm mấu chốt (chẳng hạn như ngoài
khơi bờ biển phía tây nam nước Anh hoặc Singapore). Sự suy giảm các nguyên
tố đất hiếm coban, niobium và vonfram có thể lật đổ toàn bộ ngành công
nghiệp. Khoảng 80% thạch anh chất lượng cao cần thiết cho những thứ như tấm
quang điện và chip silicon đến từ một mỏ duy nhất ở Bắc Carolina. Máy tổng
hợp DNA và máy tính lượng tử không phải là hàng tiêu dùng phổ biến. Kỹ năng
cũng là một điểm nghẽn: số người làm việc trên tất cả các công nghệ tiên
tiến được thảo luận trong cuốn sách này có lẽ không quá 150.000.
Vì vậy, khi những tác động tiêu cực trở nên rõ ràng, chúng ta phải tận
dụng những điểm nghẽn này để tạo ra những yếu tố hạn chế tỷ lệ hợp lý, kiểm
tra tốc độ phát triển, để đảm bảo tốt hơn rằng ý thức tốt được thực hiện như
nhanh chóng khi khoa học phát triển. Vì vậy, trên thực tế, việc giữ nghẹt thở
không chỉ áp dụng cho Trung Quốc; chúng có thể được áp dụng rộng rãi để điều
chỉnh tốc độ phát triển hoặc triển khai. Khi đó, kiểm soát xuất khẩu không chỉ
là một trò chơi địa chiến lược mà còn là một thử nghiệm trực tiếp, một bản đồ
khả thi về cách có thể kiềm chế nhưng không bóp nghẹt hoàn toàn công nghệ. Cuối
cùng, tất cả các công nghệ này sẽ được phổ biến rộng rãi. Trước đó, khoảng 5
năm tới là vô cùng quan trọng, một khoảng thời gian chật hẹp khi một số điểm áp
lực nhất định vẫn có thể làm công nghệ chậm lại. Trong khi có tùy chọn, hãy nắm
lấy nó và câu giờ.
4. NHÀ SẢN XUẤT: NHÀ TIÊU CHÍ NÊN XÂY DỰNG NÓ
Thực tế là sự khuyến khích của công nghệ là không thể ngăn cản được không có
nghĩa là những người xây dựng nó không chịu trách nhiệm về những sáng tạo của
mình. Ngược lại, họ, chúng tôi, tôi, làm; trách nhiệm rất rõ ràng. Không ai bị
buộc phải thử nghiệm biến đổi gen hoặc xây dựng các mô hình ngôn ngữ lớn. Sự
lan rộng và phát triển tất yếu của công nghệ không phải là một tấm thẻ thoát
khỏi tù, một giấy phép để xây dựng những gì bạn muốn và xem điều gì sẽ xảy ra.
Chúng đúng hơn là một lời nhắc nhở mạnh mẽ về sự cần thiết phải làm mọi việc
đúng đắn và những hậu quả khủng khiếp của việc không làm.
Vì thế.
Hơn ai hết, những người làm việc trong lĩnh vực công nghệ cần phải tích cực
làm việc để giải quyết các vấn đề được mô tả trong cuốn sách này. Gánh nặng
chứng minh và gánh nặng giải pháp đặt lên vai họ, lên vai chúng ta.
Mọi người thường hỏi tôi, vì tất cả những điều này, tại sao lại làm việc trong
lĩnh vực AI và xây dựng các công ty và công cụ AI? Ngoài những đóng góp tích
cực to lớn mà họ có thể mang lại, câu trả lời của tôi là tôi không chỉ muốn nói
và tranh luận về việc ngăn chặn. Tôi muốn chủ động góp phần hiện thực hóa điều
đó, ngay từ đầu, đón đầu xu hướng phát triển của công nghệ. Việc ngăn chặn cần
các nhà công nghệ tập trung hoàn toàn vào việc biến nó thành hiện thực.
Các nhà phê bình công nghệ cũng có một vai trò quan trọng ở đây. Đứng bên
lề và la hét, tức giận trên Twitter và viết dài và

các bài viết khó hiểu phác thảo các vấn đề đều rất tốt. Nhưng những hành động như vậy
sẽ không ngăn được làn sóng sắp tới và trên thực tế, chúng cũng sẽ không thay đổi nó
một cách đáng kể. Khi tôi mới bắt đầu làm việc chuyên nghiệp, cái nhìn bên ngoài về
công nghệ gần như hoàn toàn lành tính, thậm chí là say mê. Đây là những công ty tuyệt
vời, thân thiện đang xây dựng một tương lai tươi sáng.
Điều đó đã thay đổi. Tuy nhiên, khi những tiếng nói phê bình ngày càng lớn hơn, điều
đáng chú ý là số lượng thành công của họ rất ít và xa vời.
Theo cách riêng của họ, những người chỉ trích công nghệ rơi vào một dạng bẫy bi
quan-ác cảm vốn đã ăn sâu vào giới tinh hoa công nghệ/chính trị/kinh doanh.
Nhiều người chế nhạo các nhà công nghệ lạc quan quá mức vẫn tiếp tục viết các khuôn khổ
giám sát lý thuyết hoặc các bài xã luận kêu gọi điều chỉnh. Nếu bạn tin rằng công nghệ
là quan trọng và có sức mạnh, đồng thời bạn tuân theo ý nghĩa của những lời phê bình
này thì những phản hồi như vậy rõ ràng là không thỏa đáng. Ngay cả những người chỉ
trích cũng né tránh sự thật thực sự trước mặt họ.
Quả thực, đôi khi những lời chỉ trích gay gắt chỉ trở thành một phần của chu kỳ cường
điệu giống như bản thân công nghệ.
Những nhà phê bình đáng tin cậy phải là những người thực hành. Xây dựng công nghệ
phù hợp, có các phương tiện thiết thực để thay đổi hướng đi của nó, không chỉ quan sát
và nhận xét mà còn tích cực chỉ đường, thực hiện thay đổi, thực hiện các hành động cần
thiết ngay từ đầu, đồng nghĩa với việc cần phải có sự tham gia của các nhà phê bình. Họ
không thể chịu được việc la hét từ bên lề.
Đây không phải là một lập luận chống lại các nhà phê bình, hoàn toàn ngược lại. Người
ta thừa nhận rằng công nghệ rất cần các nhà phê bình—ở mọi cấp độ nhưng đặc biệt là ở
tuyến đầu, xây dựng và chế tạo, vật lộn với thực tế sáng tạo hữu hình hàng ngày. Nếu
bạn đang đọc bài viết này và chỉ trích, thì sẽ có câu trả lời rõ ràng: hãy tham gia.
Tôi hoàn toàn thừa nhận điều này không tạo nên một cuộc sống dễ dàng. Ở đây không
có nơi nào thoải mái cả. Không thể không nhận ra một số nghịch lý. Điều đó có nghĩa là
những người như tôi phải đối mặt với viễn cảnh rằng bên cạnh việc cố gắng xây dựng các
công cụ tích cực và ngăn chặn những kết quả xấu, chúng ta có thể vô tình đẩy nhanh
chính những điều mà chúng ta đang cố tránh, giống như các nhà nghiên cứu đạt được chức
năng với các thí nghiệm vi rút của họ.
Những công nghệ tôi phát triển có thể gây ra một số tác hại. Cá nhân tôi sẽ
tiếp tục phạm sai lầm, mặc dù tôi đã nỗ lực hết sức để học hỏi và cải thiện. Tôi đã vật
lộn với quan điểm này trong nhiều năm – lùi lại hay tham gia? Càng ở gần trái tim đang
đập của công nghệ, bạn càng có thể tác động đến kết quả, điều khiển nó theo hướng tích
cực hơn và chặn các ứng dụng có hại. Nhưng điều này cũng có nghĩa là trở thành một phần
của những gì khiến nó trở thành hiện thực - vì tất cả những điều tốt đẹp cũng như mọi tác
hại mà nó có thể gây ra.
Tôi không có tất cả các câu trả lời. Tôi liên tục đặt câu hỏi về sự lựa chọn của mình.
Nhưng lựa chọn duy nhất còn lại là từ bỏ hoàn toàn nhiệm vụ xây dựng. Các nhà công nghệ
không thể là những kiến trúc sư tương lai xa cách, không kết nối, chỉ lắng nghe chính
mình. Không có những lời chỉ trích từ bên ngoài lẫn bên trong, tình thế tiến thoái lưỡng
nan sẽ ập đến với chúng ta một cách không thể tránh khỏi. Với họ, sẽ có cơ hội tốt hơn để
xây dựng công nghệ mà không gây thiệt hại thêm cho quốc gia-dân tộc, ít gặp phải những
thất bại thảm hại hơn, không giúp tăng nguy cơ xảy ra tình trạng lạc hậu độc tài. Mười năm
trước, ngành công nghệ cũng là ngành đơn văn hóa, theo mọi nghĩa của từ này. Điều đó đã
bắt đầu thay đổi, và giờ đây có sự đa dạng về trí tuệ hơn bao giờ hết, bao gồm nhiều tiếng
nói phê phán, đạo đức và nhân văn hơn trong chính quá trình phát triển.
Khi tôi đồng sáng lập DeepMind, việc xây dựng các mối quan tâm về an toàn và đạo đức
thành nền tảng cốt lõi của một công ty công nghệ có vẻ mới lạ. Chỉ cần sử dụng từ “đạo
đức” trong bối cảnh này đã khiến tôi có cái nhìn lạ lùng; Ngược lại, ngày nay thật đáng
buồn là nó có nguy cơ trở thành một từ thông dụng khác được sử dụng quá mức. Tuy nhiên,
nó đã dẫn tới sự thay đổi thực sự, mở ra những cơ hội có ý nghĩa cho việc thảo luận và
tranh luận.
Đầy hứa hẹn, nghiên cứu về AI có đạo đức đã tăng vọt—số lượng xuất bản tăng gấp năm lần
kể từ năm 2014. Về phía ngành, mức tăng trưởng này thậm chí còn nhanh hơn; Nghiên cứu AI
có đạo đức với các đơn vị liên kết trong ngành tăng 70% so với cùng kỳ năm ngoái. Trước
đây, sẽ thật kỳ lạ khi thấy các nhà triết học đạo đức, nhà khoa học chính trị và nhà nhân
chủng học văn hóa làm việc trong lĩnh vực công nghệ, giờ đây thì ít hơn. Tuy nhiên, những
thiếu sót lớn trong việc đưa các quan điểm phi kỹ thuật và tiếng nói đa dạng vào cuộc
thảo luận vẫn còn quá phổ biến: công nghệ chứa đựng là một dự án đòi hỏi
mọi lĩnh vực và quan điểm. Việc chủ động tuyển dụng để đạt được hiệu quả đó là
điều bắt buộc.
Trong một thế giới với những động lực cố hữu và các quy định thất bại,
công nghệ cần những lời chỉ trích không chỉ ở bên ngoài mà cả ở trái tim đang
đập của nó.
5. KINH DOANH: LỢI NHUẬN + MỤC ĐÍCH
Lợi nhuận thúc đẩy làn sóng sắp tới. Không có con đường dẫn đến sự an toàn nào
mà không nhận ra và vật lộn với thực tế này. Khi nói đến các công nghệ cấp số
nhân như AI và sinh học tổng hợp, chúng ta phải tìm ra các mô hình thương mại
toàn diện và có trách nhiệm mới nhằm khuyến khích sự an toàn cũng như lợi
nhuận. Theo mặc định, có thể tạo ra các công ty thích ứng tốt hơn với công
nghệ chứa đựng. Tôi và những người khác đã thử nghiệm thử thách này từ lâu,
nhưng cho đến nay kết quả vẫn chưa đồng đều.
Các công ty theo truyền thống có một mục tiêu duy nhất và rõ ràng: lợi
nhuận của cổ đông. Phần lớn điều đó có nghĩa là sự phát triển không bị cản trở
của các công nghệ mới. Mặc dù đây là động cơ tiến bộ mạnh mẽ trong lịch sử
nhưng nó lại không phù hợp để ngăn chặn làn sóng sắp tới. Tôi tin rằng việc
tìm ra cách dung hòa lợi nhuận và mục đích xã hội trong các cơ cấu tổ chức kết
hợp là cách tốt nhất để vượt qua những thách thức phía trước, nhưng để nó hoạt
động được trên thực tế là điều vô cùng khó khăn.
Ngay từ khi bắt đầu DeepMind, điều quan trọng đối với tôi là chúng tôi đã
tính đến các mô hình quản trị phù hợp với mục tiêu cuối cùng của mình. Khi
chúng tôi được Google mua lại vào năm 2014, tôi đã thiết kế một “ban đạo đức
và an toàn” để giám sát các công nghệ của chúng tôi và chúng tôi coi đây là
điều kiện của việc mua lại. Ngay cả khi đó, chúng tôi đã nhận ra rằng nếu
chúng tôi thành công trong việc đạt được sứ mệnh xây dựng AGI thực sự, nó sẽ
giải phóng một lực lượng vượt xa những gì có thể được mong đợi một cách hợp lý
là do một tập đoàn duy nhất sở hữu và kiểm soát. Chúng tôi muốn đảm bảo
rằng Google hiểu điều này và đưa ra cam kết mở rộng khả năng quản trị của
chúng tôi ra ngoài phạm vi các nhà công nghệ. Cuối cùng, tôi muốn tạo ra một
diễn đàn toàn cầu, có nhiều bên liên quan để quyết định điều gì sẽ xảy ra với
AGI khi nào hoặc liệu nó có đạt được hay không, một loại viện nghiên cứu thế
giới dân chủ dành cho AI. Đối với tôi, dường như công nghệ càng mạnh thì việc
có nhiều quan điểm kiểm soát và tiếp cận nó càng quan trọng.
Sau khi được Google mua lại, tôi và những người đồng sáng lập đã dành
nhiều năm cố gắng xây dựng điều lệ đạo đức thành cơ cấu pháp lý của công ty,
tranh cãi không ngừng về việc điều lệ này có thể được công khai ở mức độ nào,
mức độ công việc của DeepMind có thể bị điều chỉnh thêm giám sát và giám sát
độc lập. Mục tiêu của chúng tôi trong các cuộc thảo luận này luôn là đảm bảo
rằng công nghệ chưa từng có sẽ phù hợp với khả năng quản trị chưa từng có. Đề
xuất của chúng tôi là biến DeepMind thành một hình thức mới của “công ty có
lợi ích toàn cầu”, với một ban quản trị hoàn toàn độc lập tách biệt và bổ sung
cho ban giám đốc được giao nhiệm vụ điều hành hoạt động của công ty.
Tư cách thành viên, việc ra quyết định và thậm chí một số lý do của hội đồng
quản trị sẽ được công khai hơn. Tính minh bạch, trách nhiệm giải trình, đạo
đức — những điều này không chỉ là PR công ty mà còn là nền tảng, ràng buộc về
mặt pháp lý và được tích hợp vào mọi việc công ty làm. Chúng tôi cảm thấy
điều này sẽ cho phép chúng tôi làm việc theo cách cởi mở, chủ động tìm hiểu
cách các công ty có thể trở thành người quản lý lâu dài và hiện đại đối với
các công nghệ cấp số nhân.
Chúng tôi đã thiết lập một cách hợp lý để có thể tái đầu tư lợi nhuận từ
AI vào sứ mệnh đạo đức và xã hội. Công ty tách ra sẽ bị “giới hạn bởi sự đảm
bảo”, không có cổ đông nhưng có nghĩa vụ cung cấp cho Alphabet, nhà tài trợ
chính, giấy phép công nghệ độc quyền. Là một phần trong sứ mệnh khoa học và
xã hội, DeepMind sẽ sử dụng phần lớn lợi nhuận của mình để nghiên cứu các công
nghệ dịch vụ công có thể chỉ có giá trị trong nhiều năm tới: những thứ như
thu giữ và lưu trữ carbon, làm sạch đại dương, robot ăn nhựa hoặc năng lượng
hạt nhân. dung hợp. Thỏa thuận là chúng tôi có thể

1 The Coming Wave - Technology, Po - Mustafa Suleyman Michael Bhaska

Uploaded by

Document Information

Original Title

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

1 The Coming Wave - Technology, Po - Mustafa Suleyman Michael Bhaska

Uploaded by

Copyright:

Available Formats

Machine Translated by Google

Machine Translated by Google

khen ngợi trước cho

có thể hủy diệt chúng ta.”

động chính trị và kinh tế toàn cầu có thể xảy ra.

—Nouriel Roubini, giáo sư danh dự tại New York

Trường đại học

trọng nhất của thời đại chúng ta.”

—Al Gore, cựu phó tổng thống Hoa Kỳ

Sloan, tác giả cuốn The Geek Way

—Anne Applebaum, nhà sử học đoạt giải Pulitzer

nghệ thay vì bị chúng kiểm soát.”

—Martha Minow, giáo sư Harvard, nguyên hiệu trưởng Trường Luật

lớn đang diễn ra ngay bây giờ.

đáo này trong lịch sử nhân loại.”

thức cơ cấu tổ chức tổ chức thế giới của chúng ta.”

—David Miliband, cựu ngoại trưởng Vương quốc Anh

của thách thức mang tính cách mạng này.”

tức công nghệ dồn dập hàng ngày.”

các vấn đề giải trừ quân bị

—Bruce Schneier, chuyên gia an ninh mạng, tác giả của A

Trí tuệ nhân tạo

chính sách và chuyên gia bảo mật.”

cựu giám đốc IARPA

chạy nhất Tư duy nhanh và chậm

lại vừa quan trọng vừa khó khăn đến vậy.”

—Sir Geoff Mulgan, giáo sư tại Đại học Cao đẳng

định hình thế giới của chúng ta.”

—Reid Hoffman, đồng sáng lập LinkedIn và Inflection

—Fei-Fei Li, giáo sư khoa học máy tính tại Stanford

Cuốn sách này là phải đọc."

—Meghan L. O'Sullivan, giám đốc Trung tâm Khoa học và Quan hệ

Quốc tế Belfer tại Trường Chính phủ Harvard Kennedy

mặt…. Việc đọc không thể thiếu.”

Trung tâm Công nghệ Nhân đạo

—Stuart Russell, giáo sư khoa học máy tính tại

đại học California, Berkeley

thể kiểm soát được này.”

—Eric Lander, giám đốc sáng lập Viện Broad

Bản quyền © 2023 của Mustafa Suleyman và Michael Bhaskar Mọi

quyền được bảo lưu.

ISBN bìa cứng 9780593593950

Sách điện tử ISBN 9780593593967

Thiết kế sách của Barbara M. Bachman, chuyển thể thành

ebook Thiết kế bìa: Christopher Brand và Oliver Munday

Bảng chú giải các thuật ngữ chính

Chương 1: Không thể ngăn chặn

Phần I: Homo Technologicus

Chương 2: Sự phổ biến vô tận

Chương 3: Vấn đề ngăn chặn

Phần II: Làn sóng tiếp theo

Chương 4: Công nghệ trí tuệ

Chương 5: Công nghệ của cuộc sống

Chương 6: Làn Sóng Rộng Hơn

Chương 7: Bốn đặc điểm của làn sóng sắp tới

Chương 8: Khuyến khích không thể ngăn cản

Phần III: Trạng thái thất bại

Chương 9: Cuộc mặc cả lớn

Chương 10: Bộ khuếch đại dễ vỡ

Chương 11: Tương lai của các quốc gia

Chương 12: Thế lưỡng nan

Phần IV: Qua Sóng

Chương 14: Mười bước tiến tới ngăn chặn