NVIDIA Apex를 소스에서 빌드하고, FusedAdam, FusedLayerNorm, torch.amp의 성능을 벤치마킹하여 트랜스포머 훈련 속도를 높이는 방법을 소개합니다.
Nous Research가 발표한 라이트하우스 어텐션은 선택 기반의 계층적 어텐션 메커니즘으로, 프리트레인 중에만 사용되며, 기존의 방법보다 1.4~1.7배 빠른 속도를 자랑합니다.
앤트로픽이 클로드의 내부 활성화를 인간이 이해할 수 있는 텍스트로 변환하는 자연어 오토인코더를 발표했습니다. 이 기술은 모델의 ‘사고’ 과정을 더 쉽게 이해할 수 있도록 돕습니다.
이 튜토리얼에서는 MEG 데이터를 사용하여 뇌 신호에서 직접 언어적 특징을 해독하는 방법을 소개합니다. 신경 활동을 의미 있는 예측으로 변환하는 시스템을 구축합니다.
애플이 2026년 4월 23일부터 27일까지 브라질 리우데자네이루에서 열리는 국제 학습 표현 회의(ICLR)에서 새로운 연구를 발표합니다. 이번 회의는 딥러닝에 중점을 둔 과학 및 산업 연구 커뮤니티가 모이는 자리입니다.
NetKet과 JAX를 사용하여 변형자 아키텍처와 양자 물리를 결합하는 방법을 배워보세요. 이 가이드는 신경 양자 상태를 통해 J1-J2 하이젠베르크 스핀 체인을 해결하는 연구 수준의 VMC 파이프라인 구축 과정을 안내합니다.
이 튜토리얼에서는 NVIDIA PhysicsNeMo를 사용하여 물리 기반 머신러닝을 위한 실용적인 워크플로우를 구축합니다. 2D 다르시 흐름 문제를 위한 데이터 생성과 물리적 필드 시각화를 포함합니다.
복잡한 예측 문제를 해결하기 위해 여러 모델을 결합하는 앙상블 방식이 사용되지만, 이는 운영 복잡성과 지연 문제로 인해 실제 적용이 어렵습니다. 지식 증류는 이러한 앙상블을 교사로 활용하여 더 작은 모델을 훈련시키는 방법을 제시합니다.
이 튜토리얼에서는 NVIDIA의 KVPress를 통해 긴 문맥 언어 모델 추론을 효율적으로 수행하는 방법을 자세히 설명합니다. 환경 설정, 라이브러리 설치, 모델 로딩 및 간단한 워크플로우 준비 과정을 다룹니다.
이 튜토리얼에서는 NVIDIA 변환 엔진을 Python으로 구현하며, 혼합 정밀도 가속을 활용한 딥러닝 워크플로우를 탐구합니다. 환경 설정, GPU 및 CUDA 준비 상태 확인, 필요한 구성 요소 설치 방법을 다룹니다.
심볼릭 회귀를 통해 딥러닝 모델을 해석 가능한 수학 방정식으로 변환하는 라이브러리 ‘SymTorch’가 소개되었다. 훈련된 모델이 어떤 것을 배웠는지 알아보는 것이 중요한데, 이를 실현하기 위한 기술이다.
CIFAR-10 데이터셋에서 레이블 조작을 통한 데이터 오염 공격을 시연하고 모델 동작에 미치는 영향을 살펴봄. 깨끗한 훈련과 오염된 훈련 파이프라인을 구축하고, ResNet 스타일의 컨볼루션 신경망을 사용하여 안정적이고 비교 가능한 학습 역학을 보장함.
Skala는 Kohn-Sham 밀도 기능 이론(DFT)을 위한 딥러닝 교환-상관 기능으로, 반 하이브리드 수준 정확도를 반 공간 비용에서 달성한다. W4-17에서 MAE는 약 1.06 kcal/mol(단일 참조 하위집합에서 0.85), WTMAD-2는 약 3.89 kcal/mol이다. 주요 분자화학에 적합하며 D3(BJ) 분산 보정을 사용한다.
2025년 현재 인공지능 개발에서 PyTorch와 TensorFlow 사이의 선택은 여전히 가장 논란이 되는 문제 중 하나이다. Alfaisal 대학의 종합 조사 논문을 통해 최신 동향을 탐색하며 사용성, 성능, 배포, 생태계 고려 사항을 종합적으로 분석한다.
구글 AI가 UC Santa Cruz Genomics Institute와 협력하여 개발한 DeepPolisher는 염기 수준 오류를 정확하게 교정하여 유전체 조립의 정확도를 크게 향상시키는 새로운 딥러닝 도구이다. 최근 인간 판유전체 참조물을 발전시키는 데 효과적으로 활용되었다.
