(19/09/2024)

Tôi chọn Nexus, đơn giản vì nó được viết bởi Yuval Noah Harari và tôi phải tiếp cận được với tri thức của ông sớm nhất có thể.

Sách được xuất bản nhiều ngôn ngữ khác nhau vào ngày 10/09/2024, 9 ngày sau đó (19/09/2024) tôi đã có trong tay bản tiếng Anh (A brief History of information Networks from the Stone Age to AI).

Tôi cũng đã đặt mua bản dịch tiếng Việt, dự kiến sẽ xuất bản vào ngày 30/09/2024, quyển sách có thể chỉ dùng để trưng bày trên kệ, hoặc cũng có thể để dò lại các ý trong sách tiếng Anh mà trong nhiều trường hợp tôi đọc không hiểu hết được ý hoặc muốn tham khảo thêm cách diễn đạt của các dịch giả có chuyên môn.

Nhưng tôi sẽ đọc quyển sách này bằng tiếng Anh và sẽ tóm tắt lại nội dung.

(21/09/2024)

Prologue - Lời mở đầu

Trong thần thoại Hy Lạp kể rằng Phaethon đã lái và mất kiểm soát cỗ xe mặt trời, gây nguy cơ huỷ diệt trái đất, thần Zeus đã cứu trái đất và giết chết chàng Phaethon. 2000 năm sau, thơ của Goethe về chàng phù thuỷ tập sự, mất kiếm soát cây chổi phép của mình đã được được thầy phù thuỷ cứu giúp kịp thời trước khi gây đại hoạ ngập lụt (sau này được chuyển thể thành phim Phù thuỷ tập sự - Walt Disney).

Bài học ở đây rất rõ ràng: Đừng sử dụng sức mạnh mà mình không thể kiểm soát.

Vậy mà con người ở thế kỷ 21 đã tạo ra và sử dụng hàng triệu chiếc xe mặt trời và cây chổi phép, drones, chatbot và các thuật toán rất có thể sẽ phát triển vượt khỏi tầm kiểm soát của con người.

Vậy ta phải làm gì? Lịch sử cho thấy rằng, chỉ có thần thánh (Zeus) và các thầy phù thuỷ mới có thể giúp được ta.

Ấy vậy mà con người còn tạo ra một thứ còn nguy hiểm hơn thế nữa, đó là các Tôn giáo, nó mang lại máu nhiều hơn là hạnh phúc và sự an lành.

Sự thật thì sức mạnh ngoài sự kiểm soát luôn là kết quả của cả cộng đồng con người, chứ không phải của một cá nhân như trong các câu chuyện ngụ ngôn, vậy mà người Đức những năm 1933 họ vẫn bầu cho Hitler!

Luận điểm chính của quyển sách này sẽ xoay quanh việc con người đạt được sức mạnh khổng lồ từ việc xây dựng những hệ thống khổng lồ, nhưng phương thức các hệ thống này được xây dựng lại có xu hướng làm cho con người không thể kiểm soát nó một cách thông minh.

The naive view of information - Góc nhìn ngây thơ về thông tin

• Góc nhìn ngây thơ về thông tin cho rằng từ việc thu thập và xử lý nhiều thông tin hơn, một hệ thống có thể đạt được sự hiểu biết sâu rộng hơn về mọi lĩnh vực. Đủ nhiều thông tin có thể mang lại sự thật và đến lượt nó, sự thật mang lại các sức mạnh và sự thông thái.

• Một thông tin có thể bị sai lệch trong quá trình thu thập bởi rất nhiều lý do khách quan và chủ quan, và việc thu thập nhiều thông tin hơn nữa có thể trung hoà thông tin sai lệch. Từ đó góc nhìn ngây thơ về thông tin cho rằng càng nhiều thông tin, bạn càng ở gần với sự thật.

• Một cách tự nhiên, kể cả khi chúng ta có được sự thật cũng không thể đảm bảo rằng chúng ta có thể sử dụng sự thật đó một cách hợp lý. Bởi vì mỗi một nền văn hoá, một hệ tư tưởng khác nhau lại có một định nghĩa về sự hợp lý một cách khác nhau. Góc nhìn ngây thơ về thông tin lại rằng những sự khác biệt về giá trị quan này là do sự thiếu hụt hoặc bất cân xứng thông tin. Như thể rằng chủ nghĩa phát xít là do một nhóm người bệnh hoạn bị tẩy não và không biết gì về sinh học và lịch sử.

Từ những năm 1800s con người cho rằng tự do thông tin toàn cầu bằng máy điện báo sẽ loại bỏ những định kiến và thù địch khỏi trái đất này. 200 năm sau, Facebook ra đời và cho rằng việc giúp con người chia sẻ nhiều thông tin hơn có thể xây dựng một thế giới cởi mở hơn. Nhưng sứ mệnh của Google về tự do hoá thông tin mới thật sự xúc tích nhất, thể hiện một góc nhìn ngây thơ về thông tin. Google trả lời với Goethe rằng khi có rất rất nhiều phù thuỷ tập sự được tự do truy cập vào thông tin khắp nơi trên thế giới, họ sẽ không chỉ tạo được những phép thuật hữu ích và còn học được cả cách để chế ngự những phép thuật ấy một cách thông thái.

(22/09/2024)

Google versus Goethe

Vậy, sở hữu nhiều thông tin hơn có thật sự tốt?

Điều đó đa phân là đúng cho đến 2023, gần 30 quốc gia đã đặt bút ký vào Tuyên bố Bletchley về an toàn AI khi cho rằng AI không những có khả năng nới rộng những mâu thuẫn hiện tại của con người mà còn tạo ra khoảng cách giữa loài người và "chúa tể" AI.

Bom nguyên tử không thể quyết định được nơi mà nó được thả xuống, nhưng AI có khả năng tự phân tích thông tin và đưa ra quyết định một cách độc lập với ý chí của con người. Vì vậy, nó có thể thay thế con người để đưa ra quyết định. Ít nhất ngay tại thời điểm hiện tại, nó có thể ra quyết định cấp tín dụng cho ai, tuyển dụng ai hay là đưa ai đó vào tù. Sự phát triển quá nhanh và không thể đảo ngược này có thể làm cho đa số con người càng ngày càng không thể hiểu được cuộc sống của chính bản thân mình.

(23/09/2024)

Weaponizing information - Vũ khí hoá thông tin

Sở hữu nhiều thông tin hơn có thật sự tiến gần đến sự thật hơn?

Từ 1848, trong Tuyên ngôn của Đảng Cộng Sản, Karl Marx đã viết: Lịch sử của tất các cả nền văn minh tồn tại cho đến này hôm nay đều là lịch sử của các cuộc đấu tranh giai cấp (giữa kẻ thống trị và người bị trị).

Các nhà hoạt động dân tuý cánh hữu như Donal Trump trong một bài phát biểu năm 2017 cũng đã cho rằng: "Người dân Mỹ đang phải gồng mình làm việc cho một nhóm nhỏ lãnh đạo hưởng lợi."

Chủ nghĩa dân tuý trong những năm gần đây đã cho rằng các nhà lãnh đạo, toà án, bác sĩ, nhà báo và kể các các giáo sư khoa học đáng kính cũng chỉ là những nhóm tinh hoa đấu tranh cho quyển lực, địa vị bằng cái giá của sự thật. Theo quan điểm này, quyền lực là sự thật tồn tại duy nhất, và là thứ duy nhất con người theo đuổi. Tất cả những hoạt động khác đội lốt của sự thật và công bằng, cũng chỉ là phái sinh của công cuộc đấu tranh quyền lực mà tại đó, thông tin chính là vũ khí.

Nói như vậy, chúng ta cũng không thể loại trừ việc chính chủ nghĩa dân tuý cũng chỉ đang sử dụng thông tin nhằm đạt được quyển lực. Để thoát khỏi mối hoài nghi này, họ đã đưa ra các giải pháp:

1. Tin vào bản thân - chủ nghĩa kinh nghiệm: Không tin bất cứ điều gì ngoài những kinh nghiệm bản thân. Nghe thì rất khoa học và thể hiện sự tự do cá nhân, nhưng các vấn đề hệ trọng (như biến đổi khí hậu) thì luôn cần nỗ lực của cả một cộng đồng. Vì vậy, chỉ tin vào bản thân thì cũng không khác gì với việc chẳng tin vào điều gì cả.

2. Tin vào tôn giáo: Họ cho rằng thay vì tìm kiếm thông tin trên The New York Times hay Science - thứ mà giới tinh hoa sử dụng để đạt được quyền lực, thì ta nên tìm kiếm sự thật ở Kinh Thánh, Kinh Quran hay kinh Vệ Đà.

3. Tin vào các nhà Lãnh đạo: với hy vọng rằng trong khi các chính trị gia khác sẽ lừa dối người dân để đạt được quyền lực cho bản thân họ, những nhà lãnh đạo tôn kính này sẽ luôn luôn đứng về chính nghĩa và bóc trần các sự lừa dối.

Những giải pháp trên của chủ nghĩa dân tuý gần như cũng tương tự với với câu chuyện của Phaethon và chàng phù thuỷ tập sự: chỉ có thần thánh (Zeus) và các thầy phù thuỷ mới có thể giúp được ta. Có vẻ trong ngắn hạn, những giải pháp trên sẽ dẫn đến một vị lãnh đạo độc tài và trong dài hạn hơn là một vị chúa tể AI hoặc chúng ta sẽ không thể tìm thấy con người trên Trái Đất được nữa.

Để tránh các viễn cảnh trên, chúng ta phải có cái nhìn chính xác hơn về thông tin chúng không phải là nguyên liệu của sự thật càng không phải là vũ khí đơn thuần. Có rất nhiều khoảng trống giữa các cực của vấn đề để chúng ta đặt niềm hy vọng vào một hệ thống có thể kiếm soát được quyền lực một cách thông thái hơn.

The road ahead

• Phần 1. Hệ thống nhân tạo - Lịch sử phát triển của các hệ thống thông tin: đưa ra các song đề nan giải cốt lõi mà con người ở tất các các thời kỳ đều phải đối mặt khi cố gắng xây dựng hệ thống thông tin. Cách xử lý khác nhau của những song đề sẽ hình thành những cộng đồng khác nhau.

  • Chapter 1: Hai yếu tố đã hình thành nên các hệ thống thông tin: Thần thoại học và chế độ quan lại của bộ máy công quyền

  • Chapter 2, 3: Mô tả bằng cách nào mà hệ thống thông tin đã hình thành dựa vào thần thoại và bộ máy công quyền

  • Chapter 4: tập trung về vấn đề sai sót thông tin, sự khác biệt của các hệ thống có cơ chế tự sửa chữa sai sót yếu (như toà án, tạp chí, nhà thờ,...) và mạnh (viện nghiên cứu khoa học,...)

  • Chapter 5: thảo luận về sự khác biệt giữa hệ thống thông tin tập trung (toàn trị) và hệ thống thông tin phi tập trung (dân chủ)

• Phần 2. Hệ thống vô cơ: nói về ảnh hưởng chính trị của AI.

  • Chapter 6, 7, 8: sự khác biệt của AI so với tất các các công nghệ thông tin trước đây. Những quyết định được tạo ra một cách độc lập với vật chất hữu cơ, những ứng dụng không có giới hạn hữu cơ, không có sai sót,... và cách chúng tác động lên xã hội, kinh tế và chính trị.

• Phần 3. Nền chính trị máy tính: Những xã hội khác nhau đối mặt với những mối đe doạ từ những hệ thống thông tin phi nhân tạo như thế nào. Hệ thống hữu cơ - con người có cơ hội nào để có thể hiểu và kiểm soát được các hệ thống thông tin vô cơ -phi nhân tạo hay không?

  • Chapter 9: Các nền dân chủ đối mặt với hệ thống thông tin phi nhân tạo như thế nào? VD như làm sao con người có thể chủ động được các quyết định tài chính trong khi cả hệ thống tài chính đang ngày càng bị kiểm soát bởi AI nhiều hơn? Làm sao đảm bảo được các cuộc đối thoại dân chủ thật sự đang được đối thoại với con người?

  • Chapter 10: Chủ nghĩa toàn trị đối mặt với hệ thống thông tin phi nhân tạo như thế nào? Các nhà độc tài không cần các cuộc đối thoại dân chủ nhưng chắc chắn họ phải có quyền lực tuyệt đối đối với người dân, nhưng làm sao họ có thể qua mắt được AI?

  • Chapter 11: AI tác động như thế nào đến sự cân bằng quyền lực giữa chủ nghĩa dân chủ và chủ nghĩa toàn trị ở mức độ toàn cầu. AI có thể làm nghiêng cán cân một cách có chủ đích có lợi cho một bên nào hay không? Loài người sẽ bị chia rẽ hay là sẽ đoàn kết lại để chống chọi lại một chúa tể AI bị mất kiểm soát?

Tóm tắt sách NEXUS - Yuval Noah Harari

by Hieuletrung