https://techllm.github.io/tags/transformer/Recent content in Transformer on TechLLMHugokoTue, 20 Oct 2026 07:33:00 +0900https://techllm.github.io/posts/recent-developments-in-transformer-inference-deployment-on-fpga-platfo/Tue, 20 Oct 2026 07:33:00 +0900https://techllm.github.io/posts/recent-developments-in-transformer-inference-deployment-on-fpga-platfo/이 논문은 2024년부터 2025년 5월까지 발표된 FPGA 기반 트랜스포머 추론 연구를 체계적으로 검토한다. 세 저장소에서 찾은 411편을 단계적으로 걸러 관련도 점수 25점 이상인 57편을 분석했다. 구현 방식과 최적화 기법을 분류하고 처리량과 전력 효율을 비교하지만, 모델·하드웨어·측정 조건이 서로 달라 순위를 직접적인 우열로 해석하기 어렵다고 강조한다. 표준 벤치마크와 더 나은 결과 보고가 필요하다는 것이 주요 결론이다.https://techllm.github.io/posts/recipenet-a-hierarchical-transformer-for-recipe-data/Tue, 18 Aug 2026 07:41:20 +0900https://techllm.github.io/posts/recipenet-a-hierarchical-transformer-for-recipe-data/레시피 데이터(재료·조건 필드가 순서 있는 절차 단계로 묶인 표 형태 데이터)는 기존 tabular 학습 기법에 넣으려면 flatten·padding으로 고정 스키마로 바꿔야 하고, 그 과정에서 계층 구조와 절차 순서 정보가 소실된다. RecipeNet은 단계 내부 필드 상호작용을 처리하는 Step Fusion Encoder와 단계 간 의존성을 처리하는 Recipe-Level Sequence Encoder를 쌓은 계층 Transformer로, 관측된 필드만 토큰화해 가변 스키마를 그대로 수용한다.