반응형 Unity84 Unity ML-Agents Deterministic Action (RL_KOREA 드론 챌린지로 테스트 하기) ML-Agents Determinisitc Action Deterministic Action 이번에 업데이트 되면서 Deterministic Action Selection 기능이 추가되었습니다. 학습하면서도 그리고 테스팅 (Inference) 하면서도 사용할 수 있습니다. 해당 기능이 업데이트 되지마자 RL_Korea Drone Delivery Challenge가 생각이 나서 바로 테스팅 해보았습니다. (어느정도 환경이 복잡하고 학습에 오랜시간이 걸리는 환경이 필요했기 때문입니다) 우선 AiFactory에서 챌린지 마지막 날 제출한 파일 내역을 보여드리겠습니다. 점수의 스펙트럼은 23.42~30.49까지 형성되어 있습니다. 여기서! 제가 제출한 파일은 모두 같은 .onnx 파일입니다! 조금더 쉽게 채.. Unity/Unity ML-Agents 2022. 6. 30. 유니티 ML-Agents Episode 종료 및 시작에 대한 고찰 Unity ML-Agents Episode 종료 및 시작에 대한 고찰 ML-Agents는 강화학습을 위해 에이전트가 행동을 통해 에피소드를 진행하고, 특정 조건이 되면 종료 되면서 학습을 진행합니다. 이를 위해 제가 사용하는 메커니즘은 총 3가지입니다. 가장 이상적인 방법 - EndEpisode(), OnEpisodeBegin() ML-Agents 예제에서 가장 많이 사용하는 방법입니다. 다음과 같이 특정 조건(미션 실패시) EndEpisode()를 호출하고 OnEpisodeBegin()을 호출하여 환경을 리셋시킵니다. (아래 예제는 3D_Ball입니다) public override void OnActionReceived(ActionBuffers actionBuffers) { var actionZ = 2.. Unity/Unity ML-Agents 2022. 6. 30. Unity를 활용한 UAV 시뮬레이션 및 강화학습 (ML-Agents) #1 구상 및 환경 구현 UAV 시뮬레이션 Unity Simulation + Unity ML-Agents 서론 유한요소해석 CAE 연구실에서 자연스럽게 Ansys를 활용한 유한요소해석을 접하게 되었다. 간단하게 설명하면 좌측의 사진과 같이, 유한요소해석 (나무위키)이란 해석하고자 하는 대상을 n개의 유한한 Mesh로 나누고 각각의 Mesh를 해석하는 방법이다. 단 이 방법은 장시간이 소요되고, 해석의 타깃이 거시적 관점보다 미시적 관점에 국한된다. 자료조사 자연스럽게 거시적관점에서 사용할 수 있는 개념 및 지식에 대해 자료조사를 진행하였다. 이 후 강화학습, Unity, Unity ML-Agents에 관심을 갖고 프로젝트 및 학습을 진행하였다. 구글링 및 유튜브 서칭을 한 결과, Unity ML-Agents는 새로운 방법을 .. Unity/Unity ML-Agents 2022. 6. 30. 우분투에 Unity Robotics 설치하기 (Setup) 우분투에 Unity Robotics 설치하기 (Setup) Unity Robotics Unity Hub 설치 Download - Unity에 들어가면 LInux 전용 Unity Hub를 설치할 수 있습니다. 이 후 메뉴얼에 따라서 chmod로 권한을 부여합니다. cd {path} 예: cd Downloads chmod +x UnityHub.AppImage Unity Hub 설치 - 권장 버전 Unity Robotics에서 사용하는 권장버전은 현재 2020.3.11f1입니다. Unity Archive에 들어가면 2020.3.11f1 버전을 찾을 수 있습니다. 원래는 여기서 Unity Hub를 클릭할 경우, Hub에 해당 버전이 자동으로 다운로드 됩니다. 하지만 현재 이슈가 있는 관계로 다음과 같이 진행하셔.. Unity/Unity Robotics 2022. 6. 30. Unity Robotics Navigation 2 SLAM (슬램 예제) Navigation 2 SLAM (슬램 예제) Unity Robotics 사용환경 : Ubuntu 20.04, Unity 2020.3.11f1, ROS2 (Foxy) 본 포스팅은 기존 Unity-Technologies/Unity-Robotics-Hub/Tutorials/Ros-Unity Intergration와 Unity-Technologies/Robotics-Nav2-SLAM-Example의 내용을 한글 번역 및 이해를 돕기위해 작성하였습니다. 목적 Navigation 2 SLAM Example은 유저들이 유니티를 SLAM 시뮬레이션 환경에서 사용할 수 있도록합니다. 본 포스팅은 유니티에서 제공하는 예제 환경 (Robotics-Warehouse)와 VIsualizations 패키지를 사용함으로써, 실 .. Unity/Unity Robotics 2022. 6. 30. Unity ML-Agents 2.0 업데이트 정리 ML-Agents 2.0 + AI Competition 소개 참고자료 : ML-Agents 2.0 + AI Competition 소개 - Unity Technologies Korea 유튜브 참고자료 : 텐서플로와 유니티 ML-Agents로 배우는 강화학습, 민규식 등 6명, 위키북스 2021년 새로운 강화학습 사례 : AI system for designing microchips (2021.6) 마이크로 칩을 인공지능이 디자인하여 부품 Block을 설계할 수 있는가 -> TPU 설계에 실제에 적용함 - 강화학습의 경우 물리적 제약이 있는 환경에는 학습 시간이 더 오래 걸림 - 실패가 발생하면 안되는 환경에는 적용이 어려움 (보상은 좋은 보상 나쁜 보상이 나뉘니까) Unity ML-Agents 2.0 .. Unity/Unity ML-Agents 2022. 6. 30. [Unity Meshes] 유니티 메쉬 재설정 (VHACD Mesh Decomposer) Unity VHACD 참고 문헌 : Unity-Technologies/VHACD Github 잘못 작성되어 있는 내용 또는 업데이트가 된 내용이 있다면 댓글로 알려주시면 감사하겠습니다. ☆★Special thanks to Laurie & Amanda★☆ 배경 지난 포스팅 [Unity Physics] Real-Time 시뮬레이션 유니티의 물리엔진 #2 (Unity 2022.1Alpha) Robotics 튜토리얼에서 Unity(Legacy) Convex와 VHACD 방식의 차이를 보았습니다. 이어서 Unity Robotics Packages의 URDF-Importer에서 VHACD 방식을 내장 지원하지만 일반 모델, 에셋, step, obj와 같은 모델에서도 이를 사용할 수 있는지 확인해보았습니다. 기존.. Unity/Physics & Meshes 2022. 6. 27. [Unity Physics] Real-Time 시뮬레이션 유니티의 물리엔진 #2 (Unity 2022.1Alpha) Robotics 튜토리얼 Unity Physics 2022.05 Unity Korea Live 진행 내용 잘못 작성되어 있는 내용 또는 업데이트가 된 내용이 있다면 댓글로 알려주시면 감사하겠습니다. ref#1 Unity : Expanding the robotics toolbox: Physics changes in unity 2022.1 변경점 #1 Physics Debugger - Info (Rigidbody / Info => Physcis Debug) 기존 Rigid Body/Info에 들어가면 다음과 같은 Ojbect의 Properites를 확인할 수 있었다. 하지만 접근성 자체도 쉽지 않을 뿐더러, 가장 중요하게 Info을 여는 순간 에디터 성능이 크게 저하되는 이슈가 있었고, 2022 버전부터는이 Info가 Phy.. Unity/Physics & Meshes 2022. 6. 27. [Unity Physics] Real-Time 시뮬레이션 유니티의 물리엔진 #1 (Tire Pattern Mesh) Unity Unity Physics 잘못 작성되어 있는 내용이 있다면 댓글로 알려주시면 감사하겠습니다. ref#1 Unity : Expanding the robotics toolbox: Physics changes in unity 2022.1 ref#2 Nvidia Omniverse : OmniPVD - PhysX Visual Debugger Mecanum Wheel 실습 AMR에서 시뮬레이션 물리엔진을 이야기할 때 가장 많이 나오는 척도가 Mecanum Wheel입니다. 학생 때 연구실에서 3D 프린터로 Mecanum Wheel을 출력하고 데굴데굴 굴려가면서 3D Printing에서 수축의 정도 그리고 고무패킹이 없으면 어떻게 되는지 확인했었습니다. 자세히 보시면 핀 길이가 조금 길어서 니퍼로 자르.. Unity/Physics & Meshes 2022. 6. 27. Unity ML-Agents 2.1.0 개발환경 및 예제 설치하기 Unity ML-Agents 는 유니티로 빌드한 환경(게임)에 ML-Agents를 이용하여 강화학습을 진행할 수 있습니다. 이를 위한 Unity, Anaconda, Pytorch, ML-Agents 설치 모두 본 포스팅에서 진행할 예정입니다. 저는 컴퓨터 공학 전공도 아니고, 코딩 경험이 적어 위의 내용을 설치하는데 하루정도 소요되었습니다. 하지만 이 글 보고 많은 분들께서 쉽게 설치하셨으면 좋겠습니다. Anaconda, Pytorch, ML-Agents 설치 (30m) 아나콘다 다운로드 사이트에 접속 후, Download를 누릅니다. 현재 파이썬 3.9 버전을 사용하고 있습니다. Python 3.6.1 버전 이상이라면 모두 사용 가능합니다. 다운로드가 완료되면 설치를 진행합니다. Anaconda |.. Unity/Unity ML-Agents 2022. 6. 22. Unity ML-Agents 강화학습 보상함수 설계의 중요성 본 내용은 한국정보과학회 SWCC 2021 워크샵에 투고한 논문 중 일부임 보상함수 고찰 목표 강화학습은 최대보상을 갖는 기계학습기법으로써 나는 "보상의 최대화"를 양의 수로 인식하고 있었다. 이에 설계 단계에서 의도하지 않는 행동은 음수 그리고 유도하고 싶은 행동은 양수로 설정하였는데, 몇몇 상황에서 예상하지 못한 학습 결과가 나타났다. 자동차(에이전트)가 벽을 향해 달려가는 현상 다음과 같이 환경을 만들었고 배경 건물을 제외한 흰색 벽과 에이전트가 충돌시 -1점의 감점을 주도록 하였다. 이 때 각각의 에이전트가 도착지에 도착하는 것을 유도하기 위해 각 체크포인트에 +1점부터 공차가 1씩 증가하도록 보상함수를 설계하였고 각각의 에이전트가 서로를 인식하고 피하기 위해 Raysensor 및 코드를 작성하였.. Unity/Unity ML-Agents 2022. 6. 22. Unity ML-Agents Gdori 강화학습 (G돌이의 모험) 유니티 코리아 공식 네이버 블로그에 정돈하여 작성하였습니다. 아래의 글을 참고해주세요. 본 글은 회고 및 정리 입니다. Unity X G식백과 X ML-Agents (1) 셋팅 Unity X G식백과 X ML-Agents (1) 셋팅 Unity Unity X G식백과 X ML-Agents (1) 셋팅 개발의 민주화라는 유니티의 모토에 맞춰, 유니티를 ... blog.naver.com Unity X G식백과 X ML-Agents (2) QA적용 및 데이터 수집 Unity X G식백과 X ML-Agents (2) QA적용 및 데이터 수집 Unity Unity X G식백과 X ML-Agents (2) QA적용 및 데이터 수집 게임 업계의 관심이 머신러닝에 ... blog.naver.com Overview 하.. Unity/Unity ML-Agents 2022. 6. 21. 이전 1 ··· 4 5 6 7 다음 반응형