아직도 일반인들에게 LLM 연동이 쉽지 않은게 사실입니다.
하드웨어적인 제약을 떠나서도 기초 부터 시간내서 알아보지 않으면 개념 잡기도 어려운 것이고요.
그래서 얼마전에 AI당에 올린 글 처럼 있는 AI를 십분 활용하고자 여기저기 있는 AI를 끼 얹고 있습니다.
이번에 새로 제작한 앱(웹 브라우져 확장 프로그램)은 AIAng 입니다.
다모앙에서 크롬 제미나이 나노, 애플 인텔리전스 (파운데이션 모델 = 온디바이스 모델)을 이용해서,
글과 댓글의 맞춤법 검사, 경어체로 교정, 문장 개선, 글 제목 추천 등을 해주고,
게시물에 대한 요약, 반응 요약, 용어 사전을 제공 합니다.
이 댓글 생성 데모의 기능은 논란의 여지가 있어서 릴리즈 하지 않았습니다.
애플 인텔리전스는 모바일에서 4096의 컨텍스트 윈도우를 지원하고,
크롬 제미나이 나노의 경우에는 이게 명확하지 않은것 같습니다.
4096으로 알고 있었는데, 아무래도 환경이 다양하다 보니 유동적으로 할당되는게 아닌가 합니다.
그래서 크롬 제미나이를 구현할 땐 청킹에 유의하여야 했습니다.
크롬 확장프로그램은 여기에서
https://github.com/DINKIssTyle/DINKIssTyle-Chrome-Extensions/tree/main/AIAng
iPadOS/iOS 용 사파리 확장 프로그램은 테스트 플라이트 에서 사용해 보실 수 있습니다.
https://testflight.apple.com/join/wPNGvkUx
이 정도는 누구의 기기에서나 빠르게 처리할 수 있는 시대가 도래하기를 바랍니다.
