Lab ngay sát vách lab em [Only registered and activated users can see links. ] làm về mấy cái GPU CPU này, nhằm cải thiện tốc độ xử lí (parellel algorithm). Em thấy chúng nó hay programming bằng C language.

Bác Springer làm về Computer Vision mà sao làm về cái này nhỉ? Tiện thể em hỏi bác nốt bác có làm về Computer Vision liên quan đến lĩnh vực medical image processing ko?

Ở đây bọn nó rất tỉ mỉ về các chi tiết kỹ thuật và cũng định hướng industry cao cho nên implementation là rất quan trọng. Ứng dụng của mấy kỹ thuật này rất nhiều, có từ Bio, Bioinformatics đến Computer Vision/Graphics và cả Finance nữa. Thử hình dung một algorithm trên CV phải duyệt qua vài trăm K pixel data tuần tự, nếu chuyển sang xử lý song song đồng loạt thì sẽ thế nào? Để train một hệ thống qua video chẳng hạn, GPU có thể xử lý vài trăm frames per seconds trong khi tốc độ ở CPU là vài fps, hiệu quả là quá xứng đáng để đầu tư công sức.

Cái anh làm không phải là medical IP, ở đây có 1 nhóm khác chuyên làm về mảng ấy rồi. Hội chỗ em làm research về nó, còn anh thì chỉ sử dụng cho mục đích của anh thôi. Interface chính của nó là C, link với kernel function của CUDA system trong file .cu, ngoài ra cũng có thể viết chung với C++ hay python,...

Chào bác, em đang trực tiếp làm 1 project có liên quan đến CUDA programming. Vừa rồi có cài và viết vài dòng đơn giản nhưng chưa thực sự đi sâu. Sắp tới em làm nhìu hơn về cái mảng này. Rất vui dược học hỏi và chia sẻ kinh nghiệm với các bác. Hiện tại em dùng C++ với CUDA, có bác nào dùng thử Matlab + wrapper với CUDA chưa nhỉ.
À, NVIDIA có 4 videos (CUDAcasts) giới thiệu sơ lược về CUDA khá hay và súc tích. Em trích ở dây luôn cho bác nào tò mò mún tìm hiểu: [Only registered and activated users can see links. ]

Em không biết gì về CUDA nhưng cái software mà lab đang dùng cũng sắp dùng GPU, thấy bảo much faster hơn thằng CPU. Em post cái này để cổ vũ anh em và đứng nhìn. Evil]. Cái này khá interesting vì nếu bình thường em mất khoảng nửa tháng chạy chương trình simulation thì chắc bây giờ chỉ cần một ngày nếu có cái này. Chắc năm năm tới không ai dùng CPU nữa hả các bác

__________________
Không có gì quí hơn độc lập tự do. Tốt nhất là không lấy vợ.

Cũng không tới mức đó đâu haichit vì không phải cái gì cũng cứ chia nhỏ, phân đều là tính toán sẽ nhanh hơn . Có nhiều thuật toán mà GPU sẽ không nhanh hơn CPU, ví dụ như nhân ma trận thì có thể tách các dòng và cột của 2 mt input để tính đồng thời còn các thao tác logic theo chuỗi, bước này phụ thuộc vào kết quả của bước kia thì dù gì cũng vẫn phải tính toán tuần tự thôi. Có thể hình dung như là làm vườn với leo núi ấy, một bên nhiều người thì nhanh, một bên thì người càng khỏe thì leo càng cao .

Hiện nay các chương trình vẫn mix cả hai loại, thường là phải tìm các công đoạn xử lý với dữ liệu lớn với nhiều hạng mục và phép toán độc lập để tính bằng GPU, phần còn lại thì vẫn sử dụng CPU. Thế nhưng có thể nói, đây là future of computing.

Ưu điểm lớn nhất của CUDA đó chính là có rất nhiều chip để tính toán dữ liệu. Chính vì thế mà trong trường hợp tốt nhất thì GPU có thể chạy nhanh hơn CPU cả trăm lần. Tuy nhiên, hạn chế lớn nhất của nó chính là bộ nhớ cho các thread (local memory). Thực ra thì cả bộ nhớ cho GPU cũng khá lớn (512Mb đến cả Gb) nhưng đó là global memory. Nếu truy xuất global memory thì khá lâu, thường chậm như truy cập trên ram (mất khoảng vài trăm us). Thế nên cái khó nhất vẫn là sử dụng local memory cho hiệu quả.

Như bác SpringerCV nói thì không phải lúc nào cũng chuyển từ CPU sang GPU một cách dễ dàng được. VD như bài toán nhân ma trận khi chạy trên GPU thì người ta chia ma trận thành từng block nhỏ rồi phân cho các thread để nhân các block này. Kích thước block thì phụ thuộc vào memory của từng GPU nữa. Thế nên mọi việc không phải là dễ ! Chưa kể là dùng CUDA phức tạp hơn rất nhiều so với dùng các ngôn ngữ song song khác và nó cũng rất buggy.

Hồi trước em có đọc một cái paper người ta làm automatic translation từ OpenMP (một ngôn ngữ lập trình song song rất phổ biến) sang CUDA. Nhưng mà hình như họ không release sỏurce code nên không biết nó tốt đến đâu.

	Trích:	SpringerCV
	Tôi đang lần mò cái kỹ thuật mới này để implement các algorithm trong CV đạt hiệu suất cao hơn. Mời các bác có kinh nghiệm hay muốn tìm hiểu tham gia trao đổi và chia sẻ thông tin. ... Đây là một kỹ thuật đầy hứa hẹn và triển vọng sẽ phát triển như là main stream trong nhiều lĩnh vực, đặc biệt là CV&Robotics. Ví dụ đơn giản, có chú này ở UMD của bác Aries đã reimplement Canny Edge Detection in CUDA và có 1 paper trên CVPR: [Only registered and activated users can see links. ] Ai quan tâm có thể lấy source code về chạy thử, paper cũng có luôn trên website. ----------- To be cont...

Hi, mình cũng rất quan tâm chủ đề này, mà sao trên trang web của bài báo trên chỉ có source code bằng opencv & matlab thôi vậy, mình ko tìm thấy implement bằng CUDA, help mình với.

Sằn cho mình hỏi, có tutorial nào hướng dẩn implement các thuật toán cv bằng CUDA C ko vậy, vd như load ảnh lên, tính histogram chẳng hạn...

mình muốn bắt đầu từ cơ bản... thanks mọi người nhiều

Bạn eminent... này hình như chưa chịu khó tìm kiếm rồi, những thứ bạn nói có thể tìm được trên trang của CUDA hoặc ... qua google. Chắc đấy chính là lí do làm mọi người ngại trả lời bài của bạn. Nhân tiện mời mọi người ngắm qua cái này cho vui, và cũng để biết thêm về các ứng dụng của CUDA:
[Only registered and activated users can see links. ]

Thêm một tin vui nữa cho những ai đang làm Computer Vision:
[Only registered and activated users can see links. ]

__________________
Stay hungry, never foolish - Hãy cứ khát khao, nhưng chớ dại khờ