google coral tpu의 온도 값을 읽어오는 기능을 구현했다. 어떤 흐름으로 구현했는지에 대해서 포스팅할 예정이다.npu_driver에 ioctl handler, hardware register offset, init 을 해준다. npu runtime dll에서

기존에는 console application에 mvp로 개발을 하였다. dll로 만들어서 여러 언어에서 사용할 수 있도록 개발할 예정이다. dll 개발 경험이 있어서 수월하게 만들 수 있었다. runtime dll의 가장 큰 역할은 npu_driver와의 통신을 래핑

이전 포스팅에서 추론 버그라고 했던 convert_scores의 충격적인 사실을 발견했다. 아무리 Byte-identical로 바이트 단위로 정말 많은 CSR을 비교했다. input data의 CRC32

convert scores가 계속 쓰레기로 나오는 문제, 이번에는 input도 아니고 weight도 아닌 descriptor ring / status block의 cache coherency 를 의심해봤다. libedgetpu (정상 동작)와 우리 driver (비정상

추론 output 데이터 중 convert_scores가 계속 잘못된 값으로 나와서 상당히 쉽지 않다. 이번 포스팅에서는 정상으로 추론되는 libedgetpu에서 실제 input buffer를 bin파일로 만들어서 만들어진 파일을 개발 중인 npu driver에서 사용

libedgetpu의 face detection은 정상이다. 직접 만든 npu driver로는 모든 anchor score가 균일하게 나오는 버그가 있다. 이번에는 input dump를 통해서 비교해 볼 예정이다. 분석하기 전에 아래와 같은 내용을 알아야 하는 것 같다

개발을 진행하며 문제가 발생했다. param cache와 infer descriptor를 정상적으로 submit 한다고 생각했는데 기존 libedgetpu처럼 정상적으로 추론이 되지 않고 garbage 값이 나오는 현상이 있다. 위 사진은 추론 값이다. 이전에 발생했던

windows driver를 계속해서 개발을 하고 있는데, 유의미한 추론 값이 나오고 나서 블로그를 정리해야지 하고 있었다. 너무나 어렵고 생각보다 프로젝트가 길어지고 있다. 그래서 지금부터는 만나는 문제에 대해서 조금씩 포스팅을 해보려고 한다. 진행 상황 전체적인

tflite 모델은 내부가 FlatBuffers로 되어있다고 한다. google coral tpu에서 모델을 사용하기 위해서는 model 내부 구조의 bitstream을 뽑아서 맵핑을 시켜줘야 한다. google에서 제공해주는 libedgetpu를 사용하면 자동으로 해

이전 Windows Driver 시리즈에 이어서 실제 NPU를 컨트롤하는 windows driver를 만들예정이다. mcu와 하드웨어 가속기의 구조적 차이로 인해 실제 가속기 처럼 동작시키지는 못했다. 또한 usb를 활용했기때문에 PCIe 방식으로 구현해볼 예정이다.

전편에서 interrupt endpoint를 추가하였다. 온도 센서값을 읽어서 kmdf driver와 통신은 성공하였다. application level에서 실시간으로 값을 읽는 것을 구현하였다. 구조 어플리케이션 레벨의 동작을 간략히 설명하겠다. OnInitDia

pico의 온도 값을 application level에서 반복적으로 요청해도 되지만 interrupt 방식으로 처리해보고 싶어 endpoint를 추가하였다. vendor specific interface에 interrupt endpoint를 추가한 뒤, 다시 장치 인식

pico를 미니 NPU로 사용하는 프로젝트를 진행하며 어려웠던 내용과 해결한 방법에 대해 작성하겠다. 현재 pico에 tinyusb를 사용하여 vendor specific interface로 driver와 통신하고 있다. 개발을 진행하며 너무나 불편한 점이 많았다. p

driver개발 중 bosd가 발생하여 분석하는 내용에 대해서 작성해본다. Dump 설정 방법 VM에서 bosd가 발생했다. 별다른 설정한적 없었지만 C:\windows를 확인하니 MiniDump 폴더에 미니 덤프가 생성된 것을 확인할 수 있다. 레지스트리에서 HK

pico 펌웨어 올리기 여기서 pico에 펌웨어를 올렸기 때문에 KMDF로 USB Vendor Interface가 호환되는 드라이버를 만들어서 올렸다. 드라이버 올리는 것은 문제가 없었지만 endpoint로 write 하는 과정에서 문제가 발생하고 해결한 내용에 대해 포스팅하겠다. pico driver 개발 흐름 1단계: Device 생성 PnP 매니저...

pico를 구매하여 tinyusb로 vendor interface를 설정할 예정이다. kmdf로 만든 드라이버로 endpoint로 bulk 통신을 할 것이다. 이전에 구매한 아두이노 우노 r3의 경우에는 기본적으로 cdc 인터페이스를 사용하여 kmdf로 만든 커스텀 드

Windows PnP 드라이버 아키텍처의 흐름을 이해하기 위해서 작성한다. pci.sys같은 드라이버가 하드웨어 장치를 발견하면 PDO를 생성해주고 Hardware ID를 할당해준다.INF 파일에서 Hardware ID를 매칭해 드라이버를 선택하여 실행해 준다. Dri

장치를 추가할 때 DeviceStack에 참여하는 콜백함수를 등록하고 windbg로 디버깅을 했다. DriverEntry AddDevice Callback 함수 windbg 디버깅 장치 관리자의 시스템 장치에 등록한 SampleDevice를 사용하기로 누르면 w

windows driver의 Device Object를 생성하고 어플리케이션 레벨에서 연결하기 위해서는 CreateFile을 호출하여 Handle을 얻어야 한다. Symbol Name을 어떻게 생성하고 생성된 Symbol을 WinObj로 확인하는 과정을 실습해 보았다.

환경 세팅을 하며 실습한 내용에 대해서 간략히 작성한다.반드시 관리자 권한 터미널에서 실행한다. 테스트 서명 활성화windows driver의 경우 인증을 받지 못한 경우, 드라이버 등록이 되지 않는다. 따라서 테스트를 위해서는 testsigning을 활성화 시켜줘야한