Graphon AI huy động được 8,3 triệu đô la để giảm tải cho các mô hình AI

Công ty khởi nghiệp AI Graphon AI đã huy động được 8,3 triệu đô la vốn hạt giống để giải quyết một hạn chế cốt lõi của trí tuệ nhân tạo hiện nay: tải trọng tính toán khổng lồ và tốn kém cần thiết để hiểu các tập dữ liệu khổng lồ, được kết nối với nhau. 'Lớp trí tuệ' của công ty nhằm mục đích lập bản đồ các mối quan hệ giữa dữ liệu bên ngoài một mô hình ngôn ngữ lớn, một động thái có thể giảm chi phí xử lý và mở khóa những hiểu biết sâu sắc từ thông tin trước đây không thể truy cập được.

Arvind Gupta của Novera Ventures, nhà đầu tư dẫn đầu vòng này, cho biết: “Đây là một công nghệ mới cơ bản, trái ngược với thứ gì đó chỉ có thể làm cho AI hiệu quả hơn một chút”.

Ngay cả những LLM tiên tiến nhất cũng bị giới hạn trong việc xử lý hàng triệu mã thông báo cùng một lúc, trong khi các tổ chức “nắm giữ hàng nghìn tỷ mã thông báo trên các tài liệu, video, nhật ký và cơ sở dữ liệu”, công ty cho biết. Vòng hạt giống trị giá 8,3 triệu đô la của Graphon, với sự tham gia của Perplexity Fund, Samsung Next, GS Futures, Hitachi Ventures và các đơn vị khác, sẽ tài trợ cho việc xây dựng lớp cơ sở hạ tầng AI được thiết kế để thu hẹp khoảng cách này.

Thành công của công nghệ này có thể tác động đến bối cảnh cơ sở hạ tầng AI bằng cách đưa ra một giải pháp thay thế hiệu quả và có khả năng mở rộng hơn cho các phương pháp hiện tại. Đối với các công ty đang sở hữu các tập dữ liệu khổng lồ, không cấu trúc, nó trình bày một cách tiềm năng để trích xuất giá trị với chi phí rẻ hơn. Điều này có thể ảnh hưởng đến các xu hướng đầu tư trong tương lai và ảnh hưởng đến vị thế cạnh tranh của các công ty phụ thuộc vào LLM quy mô lớn.

Công ty có trụ sở tại San Francisco này được thành lập bởi cựu nhà khoa học ứng dụng cao cấp của Amazon, Arbaaz Khan, người giữ chức CEO. Khan cho biết ý tưởng là tạo ra một bản đồ quan hệ của toàn bộ vũ trụ dữ liệu của một tổ chức — từ tài liệu và video đến nhật ký hệ thống — trước khi nó chạm tới LLM. Việc xử lý trước này được thiết kế để hiệu quả hơn việc để một mô hình khổng lồ phân tích lặp đi lặp lại tất cả dữ liệu để tìm ra các kết nối.

Từ Robot đến Dữ liệu Quan hệ

Khan đã lấy cảm hứng từ công trình tiến sĩ về robot tại Đại học Pennsylvania. Ông giải thích, một robot hoạt động trong một không gian xác định có thể sử dụng kiến thức về cấu trúc đó để giảm nhu cầu tính toán của nó. Ông đã áp dụng một ý tưởng tương tự vào dữ liệu, sử dụng khái niệm toán học về graphon, có thể xác định và nhóm các người dùng hoặc điểm dữ liệu khác nhau vào các "vùng lân cận" dựa trên các thuộc tính quan hệ chung. Trong khi công nghệ transformer trong LLM tiêu tốn năng lượng khổng lồ để tìm ra những từ nào có liên quan, lớp trí tuệ của Khan thực hiện công việc này một cách riêng biệt. “Chúng tôi sẽ xây dựng biểu diễn quan hệ lớn này... và đó là thứ sẽ cung cấp cho mô hình, thay vì để mô hình thực hiện tất cả các công việc nặng nhọc,” Khan nói. Ông lập luận rằng đây là một sự tiết kiệm lớn, khẳng định rằng “việc chạy mô hình [200 triệu tham số] này một nghìn lần hiệu quả hơn nhiều so với việc cố gắng chạy một mô hình [5 nghìn tỷ tham số] trong một giờ”.

Tập đoàn Hàn Quốc Thử nghiệm Công nghệ

Tập đoàn GS của Hàn Quốc, một nhà đầu tư thông qua chi nhánh GS Futures của mình, đã và đang sử dụng công nghệ này. Ally Kim, phó chủ tịch tại GS, người dẫn đầu sáng kiến chuyển đổi kỹ thuật số 52g, cho biết nhóm nghiên cứu đã sử dụng Graphon để cải thiện việc phân tích các bản ghi camera quan sát giám sát các công trường xây dựng nhằm tuân thủ an toàn. Công ty cũng sử dụng nó để phân tích hiệu quả hơn video về các cầu thủ bóng đá để tìm kiếm tài năng cho một đội do GS tài trợ, đánh giá các chuyển động, điểm mạnh và điểm yếu. “Chúng tôi thực sự cần mở rộng phạm vi kiến thức của mình sang các phương thức đa phương thức, như giọng nói hoặc video hoặc các bối cảnh khác. Graphon có thể là sự hỗ trợ tốt,” Kim nói.

Bài viết này chỉ mang tính chất thông tin và không cấu thành lời khuyên đầu tư.