TT-Buda™
TT-Buda™
모든 모델을 실행하는 오픈 소스
TT-Buda™는 고수준의 SDK로, 다양한 AI 프레임워크를 지원하며, AI 모델을 Tenstorrent 하드웨어에서 실행하기 위한 프로그램 파일을 생성합니다. 이 SDK는 컴파일러 프론트엔드를 통해 AI 모델의 모든 기능이 지원되는지 확인한 후, 사람이 읽을 수 있는 연산 네트리스트(netlist)를 생성합니다. TT-Buda™는 모델을 신속하게 실행하려는 프로덕션 고객에게 적합하며, 유연성을 제공하면서도 새로운 작업을 프로그래밍하거나 변경 시마다 지원팀에 문의할 필요 없이 사용할 수 있습니다.
TT-Buda™를 활용한 AI 모델 컴파일 및 실행 과정
TT-Buda는 AI 프레임워크를 받아들이고 하향식(top-down) 접근방식을 채택한 하이 레벨 소프트웨어 개발 키트(SDK)로서, Tenstorrent 하드웨어에서 AI 모델을 실행하기 위한 프로그램 파일을 생성합니다. 이 SDK의 컴파일러 프런트-엔드는 인간이 읽을 수 있는 연산 넷리스트를 합성하기 전에 ‘synthesis check’를 실행하고 AI 모델의 모든 기능이 지원되는지 확인합니다.
특징 및 기능
1. 다양한 프레임워크 지원
– TensorFlow, PyTorch 등 주요 AI 프레임워크를 손쉽게 통합
2. 컴파일러 프론트엔드 제공
– AI 모델의 모든 기능을 분석하고, 사람이 읽을 수 있는 연산 네트리스트(Netlist)를 생성
3. 효율적이고 빠른 실행
– Tenstorrent 하드웨어에 최적화된 프로그램 파일을 생ㅇ성하여 실행 속도를 극대화
4. 자율성과 유연성
– 기술(고객) 지원팀의 개입 없이도 새로운 작업과 기능 변경이 가능
TT-Buda™의 GitHub 리포지토리 안내
TT-Buda™ GitHub에서 필요한 파일을 로드하여 작업할 수 있습니다.
TT-Buda™ SDK 특징
TT-Buda™는 표준 AI 소프트웨어가 하드웨어에서 실행될 수 있도록 하는 Tenstorrent의 프레임워크입니다.
TT-Buda™를 사용하면 Llama, U-Net, Yolo와 같이 널리 쓰이는 모델을 실행할 수 있고, 아예 처음부터 새로 만든 모델도 실행할 수 있습니다.
Performance Tuning, Place and Route Analysis, Debug, Graph Review 등 다양한 개발 도구를 제공합니다.