windows에서는 별다른 설정을 해주지 않으면 기본으로 레거시 인터럽트를 사용한다. 따라서 MSI-X 인터럽트를 사용하기 위해서는 INF파일에 추가로 설정해 줘야 한다. INF 파일에 \[npu_driver_HW_Reg]섹션에 위처럼 설정하였다. 레지스트리의 컴퓨터\

inf 등록 과정 포스팅에서 다루었던 과정 이후, I/O 매니저가 실제로 driver를 메모리에 로드하게 된다. DriverEntry가 호출이 되면서 WDF Driver 객체를 만들어준다. 그때 Config로 EvtDeviceAdd를 등록해 준다. 언제 그리고 누가 E

windows에서 드라이버를 설치하기 위해서는 필수 파일인 inf 파일에 대해서 좀 더 자세히 알아보려고 한다. %SystemRoot% -> C:\\Windows를 의미사용자가 장치 관리자에서 드라이버 업데이트를 누르거나, CLI에서 pnputil /add-driver

PCIe에 대해서 조금 더 자세히 공부해 보고자 한다. BDF에 대해서 간략히 설명하겠다. Bus -> 도시Device -> 건물Function -> 층으로 간단하게 이해하면 된다. Bus는 총 256개, 버스당 최대 Device 32개, 디바이스당 최대 8개의 Fun

추론 성공 후, 결과 영상을 기록하고 NPU 내부 구조를 깊게 파고드느라 바쁜 시간을 보냈습니다. 현재 NPU 드라이버 프로젝트는 유저 모드 런타임에서 ioctl을 통해 명령을 내리면, 커널 드라이버가 NPU 레지스터를 조작해 추론을 시작하는 구조입니다.하지만 매 추론

google coral tpu의 온도 값을 읽어오는 기능을 구현했다. 어떤 흐름으로 구현했는지에 대해서 포스팅할 예정이다.npu_driver에 ioctl handler, hardware register offset, init 을 해준다. npu runtime dll에서

기존에는 console application에 mvp로 개발을 하였다. dll로 만들어서 여러 언어에서 사용할 수 있도록 개발할 예정이다. dll 개발 경험이 있어서 수월하게 만들 수 있었다. runtime dll의 가장 큰 역할은 npu_driver와의 통신을 래핑

이전 포스팅에서 추론 버그라고 했던 convert_scores의 충격적인 사실을 발견했다. 아무리 Byte-identical로 바이트 단위로 정말 많은 CSR을 비교했다. input data의 CRC32

convert scores가 계속 쓰레기로 나오는 문제, 이번에는 input도 아니고 weight도 아닌 descriptor ring / status block의 cache coherency 를 의심해봤다. libedgetpu (정상 동작)와 우리 driver (비정상

추론 output 데이터 중 convert_scores가 계속 잘못된 값으로 나와서 상당히 쉽지 않다. 이번 포스팅에서는 정상으로 추론되는 libedgetpu에서 실제 input buffer를 bin파일로 만들어서 만들어진 파일을 개발 중인 npu driver에서 사용

libedgetpu의 face detection은 정상이다. 직접 만든 npu driver로는 모든 anchor score가 균일하게 나오는 버그가 있다. 이번에는 input dump를 통해서 비교해 볼 예정이다. 분석하기 전에 아래와 같은 내용을 알아야 하는 것 같다

개발을 진행하며 문제가 발생했다. param cache와 infer descriptor를 정상적으로 submit 한다고 생각했는데 기존 libedgetpu처럼 정상적으로 추론이 되지 않고 garbage 값이 나오는 현상이 있다. 위 사진은 추론 값이다. 이전에 발생했던

windows driver를 계속해서 개발을 하고 있는데, 유의미한 추론 값이 나오고 나서 블로그를 정리해야지 하고 있었다. 너무나 어렵고 생각보다 프로젝트가 길어지고 있다. 그래서 지금부터는 만나는 문제에 대해서 조금씩 포스팅을 해보려고 한다. 진행 상황 전체적인

tflite 모델은 내부가 FlatBuffers로 되어있다고 한다. google coral tpu에서 모델을 사용하기 위해서는 model 내부 구조의 bitstream을 뽑아서 맵핑을 시켜줘야 한다. google에서 제공해주는 libedgetpu를 사용하면 자동으로 해

이전 Windows Driver 시리즈에 이어서 실제 NPU를 컨트롤하는 windows driver를 만들예정이다. mcu와 하드웨어 가속기의 구조적 차이로 인해 실제 가속기 처럼 동작시키지는 못했다. 또한 usb를 활용했기때문에 PCIe 방식으로 구현해볼 예정이다.

전편에서 interrupt endpoint를 추가하였다. 온도 센서값을 읽어서 kmdf driver와 통신은 성공하였다. application level에서 실시간으로 값을 읽는 것을 구현하였다. 구조 어플리케이션 레벨의 동작을 간략히 설명하겠다. OnInitDia

pico의 온도 값을 application level에서 반복적으로 요청해도 되지만 interrupt 방식으로 처리해보고 싶어 endpoint를 추가하였다. vendor specific interface에 interrupt endpoint를 추가한 뒤, 다시 장치 인식

pico를 미니 NPU로 사용하는 프로젝트를 진행하며 어려웠던 내용과 해결한 방법에 대해 작성하겠다. 현재 pico에 tinyusb를 사용하여 vendor specific interface로 driver와 통신하고 있다. 개발을 진행하며 너무나 불편한 점이 많았다. p

driver개발 중 bosd가 발생하여 분석하는 내용에 대해서 작성해본다. Dump 설정 방법 VM에서 bosd가 발생했다. 별다른 설정한적 없었지만 C:\windows를 확인하니 MiniDump 폴더에 미니 덤프가 생성된 것을 확인할 수 있다. 레지스트리에서 HK

pico 펌웨어 올리기 여기서 pico에 펌웨어를 올렸기 때문에 KMDF로 USB Vendor Interface가 호환되는 드라이버를 만들어서 올렸다. 드라이버 올리는 것은 문제가 없었지만 endpoint로 write 하는 과정에서 문제가 발생하고 해결한 내용에 대해 포스팅하겠다. pico driver 개발 흐름 1단계: Device 생성 PnP 매니저...