Người sáng lập một startup AI đã bị thẩm phán khiển trách vì hành động sử dụng một avatar ảo do mô hình AI tạo ra và vận hành để trình bày cũng như bào chữa cho “thân chủ” trong một vụ kiện tại tòa.

Avatar này, với ngoại hình và giọng nói được tạo ra bởi phần mềm, đã xuất hiện để đại diện bào chữa cho Jerome Dewald, nguyên đơn trong một tranh chấp dân sự về việc làm với công ty bảo hiểm MassMutual Metro New York, tại phiên điều trần ngày 26/3/2025 trước Tòa phúc thẩm của bang New York.

Trong quá trình tranh tụng, Dewald yêu cầu được phép chiếu một video. Trong video là hình ảnh một người đàn ông mặc áo cổ chữ V cho hội đồng xét xử, bao gồm năm thẩm phán. Video mở đầu bằng đoạn, “thưa tòa, tôi đến đây hôm nay với tư cách là một nguyên đơn tự bào chữa trước sự hiện diện của năm vị thẩm phán đáng kính”.

Bối rối trước người nói không rõ danh tính, Thẩm phán Sallie Manzanet-Daniels ngay lập tức ngắt lời để hỏi ai đang trình bày trước tòa. "Đây là… xin đợi một chút? Đây có phải luật sư bào chữa cho phiên xử không?"

"Cái đang nói ấy à? Là tôi đã tạo ra nó," Dewald trả lời, người đang ngồi trực tiếp trước hội đồng thẩm phán trong phiên điều trần.

“Xin lỗi?” Thẩm phán bối rối.

"Tôi là người đã tạo ra nó," Dewald lặp lại. "Hình ảnh trong video không phải là một con người thật."

"Được rồi," thẩm phán nghiêm giọng. "Đáng lẽ ra ông phải thông báo về điều đó khi nộp đơn xin trình bày. Ông đã không nói với tôi, thưa ông."

Đơn trình bày được thẩm phán đề cập trên đây là yêu cầu của Dewald, xin tòa án cho phép chiếu một video tranh luận vụ kiện của mình, vì theo lời khai của ông, một tình trạng bệnh lý khiến ông không thể dễ dàng trình bày trực tiếp trước tòa trong một khoảng thời gian dài. Hội đồng thẩm phán thì đương nhiên không mong đợi một video mô tả hình ảnh một người do máy tính tạo ra từ A đến Z sẽ xuất hiện.

"Ông đã từng ra hầu tòa và có thể trình bày bằng lời nói trong quá khứ," Thẩm phán Manzanet-Daniels tiếp tục. "Ông đã đến văn phòng của thư ký tôi và có những cuộc trò chuyện trực tiếp với nhân viên của chúng tôi hơn 30 phút." Vị thẩm phán nói tiếp: “Tôi không thích bị lừa dối. Hoặc ông đang mắc phải một bệnh ngăn cản ông diễn đạt, hoặc là không. Ông không được phép sử dụng tòa án này làm bệ phóng cho công việc kinh doanh của mình. Nếu ông muốn có thời gian tranh luận miệng, hãy đứng lên và trình bày với tôi."

Vấn đề về giọng nói? Hay chiêu trò quảng cáo cho công ty AI?

Trong một cuộc phỏng vấn với The Register vào tuần này, Dewald nói: "Tôi đã xin phép tòa trước và họ đã chấp thuận. Vì vậy, họ không hề chuẩn bị kém khi có buổi điều trần. Họ chỉ chưa chuẩn bị tinh thần để thấy một hình ảnh đại diện pháp lý do AI tạo ra."

Tham khảo của thẩm phán về tình hình bệnh tật của nguyên đơn, có đề cập đến việc Dewald từng mắc bệnh ung thư cổ họng cách đây 25 năm. Dewald giải thích: "Việc nói chuyện kéo dài là một vấn đề mà tôi không thể làm được. Ý tôi là, tôi có thể trình bày những gì đã xảy ra, nhưng đó là một phần lý do tại sao họ đồng ý cho tôi thực hiện buổi thuyết trình."

Dewald là giám đốc điều hành một startup mang tên Pro Se Pro, nhằm giúp các nguyên đơn không có luật sư bào chữa giúp họ mò mẫm trong toàn bộ hệ thống pháp luật Mỹ, mà không cần bỏ tiền thuê luật sư. Ông đã lên kế hoạch sử dụng dịch vụ AI của Tavus để tạo ra một avatar với hình ảnh chân thực của mình, tạo thành video để đọc bài tranh luận trước tòa.

"Tôi đã được tòa cho phép trước đó," ông khẳng định. "Tôi dự định sử dụng bản sao AI của chính mình, sẽ là hình ảnh tôi đang nói chuyện. Nhưng công nghệ này khá mới. Tôi chưa bao giờ tạo ra bản sao của mình hoặc bất kỳ ai khác."

Dewald phiên bản số không hoạt động, nên ông đã dùng đến “Jim”

Dewald giải thích rằng, quá trình tạo một hình đại diện để xuất hiện tại tòa án bao gồm các bước, đầu tiên là cung cấp cho Tavus một video kéo dài từ hai đến bốn phút về đối tượng đang nói chuyện, cộng với một đoạn phim dài một phút hiển thị đối tượng đứng yên. Tài liệu này đã được sử dụng để tạo ra bản sao kỹ thuật số của đối tượng avatar ảo, một quá trình mất khoảng hai đến bốn giờ. Tuy nhiên, cuối cùng ông đã sử dụng một hình đại diện mặc định có tên là Jim thay vì hình ảnh của chính mình.

"Với gói cước Tavus cơ bản của tôi, tôi chỉ nhận được ba lần mỗi tháng để tạo video," Dewald nói. "Vì vậy, tôi đang cố gắng tiết kiệm. Tôi đã thử một cái. Nó thất bại sau khoảng sáu giờ xử lý. Tôi đã thử một cái khác. Nó thất bại sau khoảng tám giờ xử lý. Và đến lúc chúng tôi chuẩn bị cho phiên điều trần, tôi vẫn chưa có bản sao của mình. Vì vậy, tôi chỉ sử dụng một trong những bản sao sẵn có của họ, một anh chàng đẹp trai và vạm vỡ mà họ đặt tên là Jim."

"Jim" chỉ kịp nói vài từ tại phiên điều trần, trước khi bị thẩm phán cắt ngang.

“Thành ra, bạn có thể thấy thẩm phán rất tức giận, thực sự rất tức giận lúc đó,” Dewald nói. Rốt cuộc cuối cùng ông cũng đã phải tự mình trình bày trước tòa. "Và sau đó, khi tôi bắt đầu trình bày bài thuyết trình của mình, dù nó tệ đến đâu đi nữa, gương mặt của thẩm phán dường như trở nên thông cảm hơn. Biểu hiện trên khuôn mặt cô ấy giống như, 'xin lỗi vì đã mắng quá nặng nề.'"

Từ cuộc đụng độ tại tòa án, đến dự án AI bị đình trệ

Mặc dù đã có nhiều trường hợp luật sư bị thẩm phán khiển trách vì nộp các tài liệu pháp lý với thông tin sai lệch do AI tạo ra, Dewald tin rằng sự tức giận của thẩm phán trong vấn đề này là do bất ngờ trước một "người" không mong đợi xuất hiện trong buổi thuyết trình video.

Khi được hỏi phản ứng của tòa án có khiến ông nghi ngờ về tính khả thi của các ứng dụng AI trong lĩnh vực pháp lý hay không, Dewald nói: "Tôi không biết, nhưng công nghệ đã thay đổi quá nhanh chóng. Bạn biết trang web của tôi, chúng tôi có được một số lượng lớn lượt truy cập, nhưng thực sự không kiếm được nhiều lợi nhuận từ nó."

Dewald cho biết ông không thể phát triển doanh nghiệp AI pháp lý của mình do thiếu vốn và do các vấn đề khác, vì vậy nó đã bị dẹp sang một bên trong khoảng một năm.

"Trong thế giới trí tuệ nhân tạo, một năm giống như cả một kỷ nguyên," ông nói. "Khi đoạn video được chiếu trước tòa, chúng tôi vẫn đang làm việc với AI ở cấp độ ChatGPT-3.5. Trung tâm của dịch vụ chúng tôi cung cấp là một bộ phân tích kịch bản. Đó là một phần AI phỏng vấn một nguyên đơn tự bào chữa và sau đó đưa ra một số lời khuyên. Tôi cho rằng đó không phải là tư vấn pháp lý, nhưng bạn có thể tranh luận điều gì tùy thích."

"Và phần đó hoạt động khá ổn. Nó liên quan đến những công nghệ có một số phần của Amazon Web Services nhưng đã bị ngừng sử dụng. Và toàn bộ bối cảnh thị trường AI đã thay đổi rất nhiều, đến mức trang web cần được xây dựng lại với trợ lý AI, vì với công nghệ hiện hành, bạn có thể làm được nhiều hơn thế."

Tòa án không phải chỗ trình diễn demo công nghệ

Dewald không coi lời khiển trách của thẩm phán là quá nghiêm trọng, về việc không sử dụng tòa án làm địa điểm quảng bá công ty của ông. "Tôi không hề quảng cáo bất kỳ doanh nghiệp nào tôi đang sở hữu," ông nói.

Khi được hỏi liệu AI có nên được các thẩm phán hay bồi thẩm đoàn chấp nhận trong các phòng xử án hay không, Dewald nói: “Tôi nghĩ rằng các tòa án sẽ nhìn thứ công nghệ này với con mắt nghi ngờ. Liên quan đến bản sao và bài thuyết trình mà tôi đã thực hiện, sẽ không có ảo giác nào trừ khi có ảo giác và thông tin sai lệch về kịch bản tôi đưa cho AI để máy đọc. Tôi đã sử dụng AI tạo sinh để soạn thảo kịch bản bài thuyết trình, nhưng tôi cũng kiểm tra nó rất kỹ lưỡng. Tôi đã làm việc này trong một thời gian dài."

Dewald có nền tảng kiến thức về kỹ thuật và khoa học máy tính, chứ không phải là luật sư. Ông nói rằng ông đã được nhận vào trường luật ở New York vào những năm 1970, nhưng chưa bao giờ theo học. Ông cũng cho biết gần đây ông đã tham gia kỳ thi đầu vào trường luật, là thành viên của một số hiệp hội luật sư và theo dõi việc sử dụng AI ngày càng phát triển trong lĩnh vực pháp lý.

Hãy nói với tòa án về AI của bạn, sau đó hãy xem họ phản đối nó

Dẫn lời một buổi thảo luận nhóm với một số thẩm phán New York cách đây khoảng một năm, ông cho biết điều nên làm nhất, là nên tiết lộ việc sử dụng AI cho đối phương và tòa án.

"Tôi đã làm điều đó trong hơn một năm," Dewald nói. "Tôi không chắc liệu nó có hữu ích hay không vì theo một số khía cạnh, sự tiết lộ đầy đủ và cởi mở, ở mặt khác, tôi nghĩ rằng đôi khi điều đó sẽ tạo ra xu hướng mọi người phân biệt đối xử. AI có xu hướng gây ấn tượng tiêu cực cho người ta, vì vốn chúng ta đã có sẵn một cái nhìn tiêu cực về AI cũng như ảo giác AI."

Ông nói rằng ảo giác chính là một vấn đề thực sự đối với công nghệ AI tạo sinh, dẫn tới tình trạng nêu sai trích dẫn thực tế và diễn giải sai tiền đề của một vụ án. Ông nói thêm rằng, ông rất kỹ lưỡng khi kiểm tra tính chính xác của văn bản đầu ra do AI tạo.

Dewald viện dẫn một hội thảo gần đây của Hiệp hội Luật sư Hoa Kỳ, mang tên Điều hướng Trí tuệ nhân tạo trong Tư pháp, bao gồm các hướng dẫn về việc sử dụng công cụ AI có trách nhiệm bởi các quan chức tư pháp.

Hội thảo đã cố gắng giải quyết những lo ngại phổ biến về AI, chẳng hạn như thiên kiến trong mô hình, ảo giác AI và tính bảo mật. Nó cũng đề cập đến việc vượt qua ranh giới của các chuẩn mực pháp lý, như trong trường hợp các mô hình AI được sử dụng để tạo sinh nội dung ngôn ngữ nằm ngoài hồ sơ tòa án, thứ có thể được đưa ra dưới dạng một nhân chứng chuyên gia nhưng không đủ tư cách.

Các tòa án cũng đã bắt đầu sử dụng AI. Như hội thảo này nhấn mạnh, các tòa án ở bang Arizona đã triển khai avatar kỹ thuật số để tóm tắt các quyết định của các thẩm phán.

Dewald tin rằng AI có thể giúp những người tự bào chữa và “thực sự có xu hướng trao quyền cho những người không được luật sư đại diện, vì nó mang lại cho họ một tiếng nói có sức nặng, thứ mà họ thường không có được trong phòng xử án.” Ông nói thêm, ông đã nộp lời xin lỗi lên tòa án vì “đó là sai lầm khi không hoàn toàn minh bạch” khi sử dụng AI, không nói trước với các thẩm phán rằng bài biện luận của ông sẽ được trình bày bởi một avatar.