①Một thẩm phán liên bang ở New York đã đưa ra phán quyết. Công ty luật đã trích dẫn một bản tóm tắt tòa án do ChatGPT viết và trích dẫn một vụ án sai sự thật. Hành vi xấu và bị phạt 5.000 đô la;
② Tiến bộ công nghệ là phổ biến và không có gì sai khi sử dụng các công cụ trí tuệ nhân tạo đáng tin cậy để trợ giúp.
Trí tuệ nhân tạo sáng tạo như ChatGPT có thể cải thiện đáng kể hiệu quả văn phòng của con người, nhưng không thể bỏ qua khả năng "chế tạo" của nó. Nếu có sai sót trong quá trình sử dụng thông thường, đó có thể chỉ là một trò đùa, chẳng hạn như "Lin Daiyu kéo ngược cây liễu khóc, bà Liu say rượu đánh vào cửa Jiang", nhưng nếu có sai sót ở khu vực hoặc thời điểm quan trọng, kết quả có thể là thảm họa.
Vào thứ Năm theo giờ địa phương, một thẩm phán liên bang ở New York đã phán quyết rằng Levidow, Levidow & Oberman, một công ty luật, đã trích dẫn một bản tóm tắt của tòa án do ChatGPT viết đã được trích dẫn bởi một trường hợp sai là hành vi xấu và bị phạt 5.000 đô la.
(Lưu ý: văn bản phán quyết)
Thẩm phán P. Kevin Castel lưu ý rằng hai luật sư tại công ty đã cố tình tránh chỉ ra rằng các trích dẫn là sai và "đưa ra những tuyên bố gây hiểu lầm cho tòa án."
Levidow, Levidow & Oberman sau đó đã trả lời rằng các luật sư của họ "khiêm tốn" không đồng ý với phán quyết gây hiểu lầm ác ý. "Chúng tôi đã phạm sai lầm có chủ đích. Chúng tôi không ngờ rằng ChatGPT có thể được tạo ra một cách tự nhiên."
Sự bịa đặt
Vào tháng 3, luật sư Peter LoDuca và Steven Schwartz đã thay mặt khách hàng của họ, Roberto Mata, đệ đơn kiện Avianca, một tài liệu pháp lý được viết bởi trí tuệ nhân tạo.
Có thông tin cho rằng các trường hợp không có thật được trích dẫn bao gồm "Ghese kiện China Southern Airlines", "Martinez kiện Delta Air Lines" và "Miller kiện United Airlines", trong số những trường hợp khác. Tuy nhiên, sau khi điều tra cẩn thận, những trường hợp phán đoán này hoàn toàn không được tìm thấy.
Trước sự việc, đến cuối tháng 5, luật sư Schwartz đã phải thừa nhận việc sử dụng ChatGPT để “bổ sung” cho nghiên cứu của mình về vụ việc. Schwartz cho biết ông không biết rằng nội dung của ChatGPT có thể là giả mạo.
Custer cho biết hai luật sư đã "từ bỏ trách nhiệm của mình" và họ "tiếp tục khẳng định những ý kiến sai lầm" sau khi họ phản đối thủ tục giấy tờ.
Custer đã ra lệnh cho Loduka và Schwartz, cũng như công ty luật Levidow, Levidow & Oberman của họ, mỗi người phải nộp phạt 5.000 đô la và tự mình thông báo cho các thẩm phán về phán quyết rằng họ tin rằng vụ án đã bị làm sai lệch.
"Tòa án sẽ không yêu cầu họ xin lỗi vì lời xin lỗi bị ép buộc không phải là lời xin lỗi chân thành," Thẩm phán Custer viết trong phán quyết tại tòa án liên bang quận Manhattan. "Quyết định đưa ra bất kỳ lời xin lỗi nào là tùy thuộc vào các bên liên quan."
Không có gì sai khi sử dụng trí tuệ nhân tạo
Trong một lệnh riêng biệt vào thứ Năm, thẩm phán đã chấp thuận yêu cầu của Avianca để bác bỏ vụ kiện. Nguyên đơn, Mata, tuyên bố rằng anh ta bị thương nặng khi đầu gối của anh ta bị một tấm pallet kim loại đâm vào trên chuyến bay từ El Salvador đến New York vào tháng 8 năm 2019.
Castells lập luận rằng vụ kiện của Mata được đưa ra sau khi hết thời hạn tranh tụng hai năm được quy định trong Công ước Montreal, cho phép khiếu nại pháp lý liên quan đến du lịch hàng không quốc tế.
Castells cho biết các luật sư có thể không bị trừng phạt nếu họ "thú nhận" về việc sử dụng AI để viết các văn bản pháp luật.
Tuy nhiên, sau khi chất vấn về văn bản, hai luật sư vẫn hùng hồn bào chữa, đưa ra những nhận định sai sự thật, xuyên tạc về văn bản và nội dung của văn bản, thể hiện sự “ác ý”.
“Khi nghiên cứu và soạn thảo các giấy tờ của tòa án, các luật sư giỏi sẽ tìm kiếm sự trợ giúp từ các cơ sở dữ liệu như luật sư cơ sở, sinh viên luật, luật sư hợp đồng, bách khoa toàn thư pháp lý, Westlaw và LexisNexis,” phán quyết viết.
Castor cũng viết: "Những tiến bộ về công nghệ là điều bình thường và vốn dĩ không có gì sai khi sử dụng các công cụ trí tuệ nhân tạo đáng tin cậy để trợ giúp. Nhưng các quy tắc hiện hành áp đặt người gác cổng đối với luật sư để đảm bảo tính chính xác của giấy tờ mà họ nộp."
Xem bản gốc
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
AI rất rủi ro, hãy thận trọng khi sử dụng nó! Luật sư Hoa Kỳ bị trừng phạt vì trích dẫn trường hợp ChatGPT giả mạo
***Nguồn: *Hiệp hội tài chính
Trí tuệ nhân tạo sáng tạo như ChatGPT có thể cải thiện đáng kể hiệu quả văn phòng của con người, nhưng không thể bỏ qua khả năng "chế tạo" của nó. Nếu có sai sót trong quá trình sử dụng thông thường, đó có thể chỉ là một trò đùa, chẳng hạn như "Lin Daiyu kéo ngược cây liễu khóc, bà Liu say rượu đánh vào cửa Jiang", nhưng nếu có sai sót ở khu vực hoặc thời điểm quan trọng, kết quả có thể là thảm họa.
Vào thứ Năm theo giờ địa phương, một thẩm phán liên bang ở New York đã phán quyết rằng Levidow, Levidow & Oberman, một công ty luật, đã trích dẫn một bản tóm tắt của tòa án do ChatGPT viết đã được trích dẫn bởi một trường hợp sai là hành vi xấu và bị phạt 5.000 đô la.
Thẩm phán P. Kevin Castel lưu ý rằng hai luật sư tại công ty đã cố tình tránh chỉ ra rằng các trích dẫn là sai và "đưa ra những tuyên bố gây hiểu lầm cho tòa án."
Levidow, Levidow & Oberman sau đó đã trả lời rằng các luật sư của họ "khiêm tốn" không đồng ý với phán quyết gây hiểu lầm ác ý. "Chúng tôi đã phạm sai lầm có chủ đích. Chúng tôi không ngờ rằng ChatGPT có thể được tạo ra một cách tự nhiên."
Sự bịa đặt
Vào tháng 3, luật sư Peter LoDuca và Steven Schwartz đã thay mặt khách hàng của họ, Roberto Mata, đệ đơn kiện Avianca, một tài liệu pháp lý được viết bởi trí tuệ nhân tạo.
Có thông tin cho rằng các trường hợp không có thật được trích dẫn bao gồm "Ghese kiện China Southern Airlines", "Martinez kiện Delta Air Lines" và "Miller kiện United Airlines", trong số những trường hợp khác. Tuy nhiên, sau khi điều tra cẩn thận, những trường hợp phán đoán này hoàn toàn không được tìm thấy.
Trước sự việc, đến cuối tháng 5, luật sư Schwartz đã phải thừa nhận việc sử dụng ChatGPT để “bổ sung” cho nghiên cứu của mình về vụ việc. Schwartz cho biết ông không biết rằng nội dung của ChatGPT có thể là giả mạo.
Custer cho biết hai luật sư đã "từ bỏ trách nhiệm của mình" và họ "tiếp tục khẳng định những ý kiến sai lầm" sau khi họ phản đối thủ tục giấy tờ.
Custer đã ra lệnh cho Loduka và Schwartz, cũng như công ty luật Levidow, Levidow & Oberman của họ, mỗi người phải nộp phạt 5.000 đô la và tự mình thông báo cho các thẩm phán về phán quyết rằng họ tin rằng vụ án đã bị làm sai lệch.
"Tòa án sẽ không yêu cầu họ xin lỗi vì lời xin lỗi bị ép buộc không phải là lời xin lỗi chân thành," Thẩm phán Custer viết trong phán quyết tại tòa án liên bang quận Manhattan. "Quyết định đưa ra bất kỳ lời xin lỗi nào là tùy thuộc vào các bên liên quan."
Không có gì sai khi sử dụng trí tuệ nhân tạo
Trong một lệnh riêng biệt vào thứ Năm, thẩm phán đã chấp thuận yêu cầu của Avianca để bác bỏ vụ kiện. Nguyên đơn, Mata, tuyên bố rằng anh ta bị thương nặng khi đầu gối của anh ta bị một tấm pallet kim loại đâm vào trên chuyến bay từ El Salvador đến New York vào tháng 8 năm 2019.
Castells lập luận rằng vụ kiện của Mata được đưa ra sau khi hết thời hạn tranh tụng hai năm được quy định trong Công ước Montreal, cho phép khiếu nại pháp lý liên quan đến du lịch hàng không quốc tế.
Castells cho biết các luật sư có thể không bị trừng phạt nếu họ "thú nhận" về việc sử dụng AI để viết các văn bản pháp luật.
Tuy nhiên, sau khi chất vấn về văn bản, hai luật sư vẫn hùng hồn bào chữa, đưa ra những nhận định sai sự thật, xuyên tạc về văn bản và nội dung của văn bản, thể hiện sự “ác ý”.
“Khi nghiên cứu và soạn thảo các giấy tờ của tòa án, các luật sư giỏi sẽ tìm kiếm sự trợ giúp từ các cơ sở dữ liệu như luật sư cơ sở, sinh viên luật, luật sư hợp đồng, bách khoa toàn thư pháp lý, Westlaw và LexisNexis,” phán quyết viết.
Castor cũng viết: "Những tiến bộ về công nghệ là điều bình thường và vốn dĩ không có gì sai khi sử dụng các công cụ trí tuệ nhân tạo đáng tin cậy để trợ giúp. Nhưng các quy tắc hiện hành áp đặt người gác cổng đối với luật sư để đảm bảo tính chính xác của giấy tờ mà họ nộp."