기본 콘텐츠로 건너뛰기

BicData maturity model(성숙모델)

성숙모델은 2011년 마르쿠스 스프렌저가 정의한 모델로 3년간 2천개 조직을 대상으로 인터뷰와 업무를 통해 도출됐다.


■1단계 사용할 만한 데이터가 없는 단계

1단계는 성숙모델의 이론적 토대이자 출발점이다. 이 상황의 기업은 어떤 사용가능한 데이터도 갖고 있지 않다. 이 단계에서 조직은 통계를 운영할 수 없다. 그리고 확실히 이해도 않으며, 정보화 거버넌스와 이디스커버리 수요에 대해 넘겨 짚을 뿐이다. 사업을 개선해줄 정보에 기반한 인사이트도 없다. 조직은 밖에 조언을 구하고, 서비스프로바이더가 정보화 요구를 충족하기 위해 많은 돈을 사용하게 한다며 경멸한다.

■2단계 빅데이터

조직은 이 단계에서 빅데이터를 수용하기 위한 첫발을 뗀다. 그들은 꾸준히 내부와 외부의 소스로부터 데이터를 모은다. 그러나 이 데이터를 가치있는 정보로 바꿀 도구는 갖고 있지 않다. 단순히 데이터만 모아둘 뿐이다.

직원들은 분석보다 정보를 찾는데 더 많은 시간을 들인다. 많은 경우에 직원들은 데이터의 홍수 속에 포기해버린다. 그들의 결정은 정보가 거의 없이 이뤄진다. 그들의 회사는 결코 그들의 정보를 전략적인 정보, 경쟁력있는 자산으로 바꿀 기회를 얻지 못한다.

일부 회사들은 내부 데이터 인프라스트럭처를 창조하고 싶어한다. 이들의 첫 단계는 내외부에서 수집된 데이터 소스에 그들과 관련된 아이덴티티를 부여하는 것이다. 그들은 순위를 정해 데이터를 캡처하는 메커니즘을 만들어간다. 이를 통해 그들은 초보적인 분석을 할 수 있는 데이터 구조를 세우며, 이 지점에서 성숙의 단계를 밟아갈 기초를 닦는다.

이런 조직은 회랑에서 걸어내려와 전례없는 움직임을 고려해야 할 필요가 있다. 그들은 빅데이터 분석 데이블에 법률, 정보화 거버넌스 이해관계자를 초대할 필요가 있다. 이는 빅데이터 분석과 정보화 거버넌스, 이디스커버리 등의 통합을 시작하는 중요한 절차다.

■3단계 적합한 데이터

세번째 모습은 양질의 데이터를 사용하는 조직이다. 이들은 문맥과 관련성을 그들의 데이터 모델에 적용한다. 그들은 기업 분류체계와 분류를 도와주고 의미있는 수단뿐만 아니라 데이터 사이의 관계와 상호의존성을 설명하는 메타데이터를 수립했다.

3단계의 달성의 핵심 요소는 문화적인 교체다. 조직은 동시에 기술적인 교체를 가져간다. 이 단계의 기업은 전략을 최적화하고, 데이터를 이해하고, 가치를 깨닫게 된다. 정책에 기반한 인프라 관리와 거버넌스가 수립된다.

■4단계 예측 단계

이 단계에 이른 조직들은 역사적인 혹은 소급해가는 분석을 더 많이 할 수 있게 된다. 그들은 예측 분석도 수행할 수 있다. 내일, 혹은 그 이후 무슨일이 일어날 것인지 아는 것으로 기업은 소비자의 행동, 시장 수요, 내부의 리스크와 잠재적인 법률 문제를 예측할 수 있다.

■5단계 전략

마지막 단계에 다다른 조직은 전체적인 사업 모델이 분석 모델을 중심에 두고 마련된다. 5단계에 이르기 위해선 역사적인 분석으로부터 꽤 다른 운영인 예측 모델의 개발을 요구한다. 역사 분석에 사용되는 데이터 마이닝과 같은 기술은 앞을 더 잘 내다보기 위한 수단으로 여전히 중요하다.

예측 분석은 따로 운영되는 게 아니다. 위기와 기회를 구분하고 가능한 수단을 쉽게 찾기 위해선 핵심 비즈니스 프로세스와 통합돼야 한다.

댓글

이 블로그의 인기 게시물

AWS ELB 504 Error

AWS EC2  운영 중 가끔씩 볼 수 있는 에러가 있습니다. 대표적으로 다음의 세가지 502, 503, 504 입니다. 이 중에서 이번에 알아볼 문제는 HTTP 504 에러입니다 .  타임 아웃이 되어   Request 를 처리하지 못하는 상황이 됩니다 .   해결 방법부터 이야기 하자면 다음과 같이 웹서버의 Time-out 시간을 60 초 이상으로 늘리는 것입니다 . Web Server & Application Time-out >= 60 sec 그 이유는 다음과 같은 ELB의 특성 때문입니다. ELB는 클라이언트와 EC2 서버 양쪽으로 커넥션을 유지하고 있습니다. ELB는 클라이언트와  EC2 서버간의 커넥션을 관리하는 역할을 맡고 있습니다. 그래서 유효한 커넥션만을 남겨놓습니다. 이를 위해서 Time-out 시간을 가지고 이 시간동안 데이터가 송수신되지 않으면 연결을 끊습니다.  기본적으로 Elastic Load Balancing는 두 연결 모두에 대해 Time-out(유휴 시간) 시간을 60초로 되어 있습니다. 그렇기 때문에 HTTP 또는 HTTPS를 사용할 경우 "KeppAlive" 옵션을 사용하여 커넥션을 재활용해야 합니다. 이 때  ELB 커넥션도 재사용되기 때문에 CPU 사용률을 줄일 수 있습니다. Browser Time-out Opera 11.11 120 sec IE 9 60 sec Chrome 13 300 sec FireFox 4 115 sec 서버 로직 중에서 60초 이상 실행될 수 있는 부분이 있는 경우 504 에러를 자주 볼 수 있을 것입니다. 문제 해결을 위해서는 Web Server는 물론  Tomcat 설정 또한 60초 이상으로 변경해주어야 합니다. ...

Spring Data Projection 기능 활용

Projection Spring Data REST에서는 Projection 기능을 제공하고 있습니다. Spring Data란?   Data Access Layer에 대한 추상화 기능을 제공하는 프레임워크입니다. 간단히 설명하자면 기존에는 Database에 데이터를 저장하고 읽어오기 위해서는 Database의 종류, 스키마를 고려하여 SQL Query를 사용해서 데이터를 저장하고 읽어왔습니다. 그러나 Spring Data를 이용하게 되면 이 과정을 ORM을 사용하여 함수를 사용하여 쉽게 처리할 수 있습니다. ORM(Object Relational Mapping)란?   데이터베이스가 테이블, 필드간 상관 관계를 통해 도메인 데이터를 표현하였다고 한다면,  ORM은 Object, 클래스 간의 상관 관계를 통해 도메인 데이터를 표현하는 것을 말합니다. 다음의 링크는 Spring Data REST Documentation 중에서 Projection 부분입니다.               8. Projections and Excerpts 그러나 실제 "Projection" 기능을 사용하는데는 한가지 문제점이 있습니다. 레거시 웹서비스를 쓰고 있다거나, Spring Data  REST를 이용하지 않는다면 "Projection" 기능을 활용하는 것이 힘들다는 것입니다. Spring Data REST의 경우 데이터  Response Type이 json-hal 타입만을 지원하기 때문입니다. JSON-HAL 타입으로 경우 웹서비스 제공 입장에서 최선의 선택일 수 있습니다. 그러나 실제 프로젝트에서는 이를 쓰려는 클라이언트가 없을 경우 사용할 수 없게 될 것입니다. 그렇다면 Projection 기능만을 사용할 수 있는 방법이 없을까요? 있습니다. ProjectionFactory 를 직접 사용하는 것입니다. 다음과 같이 Spr...

Drools Fusion "Steam mode" Issue and Solution

ESP(Event Stream Processing) 센서, CCTV등 다양한 소스(Source)에서 들어오는 실시간 이벤트를 이벤트 스트림 이라고 한다. 그리고 이벤트 스트림을 받아서 이를 실시간으로 처리하는 것을 Event Stream Processing이라고 한다. 처리라는 것은 대부분 특정 이벤트에 대해서 사용자가 원하는 동작 또는 알람을 보내는 작업을 말한다. 이슈 발생 대용량 이벤트 처리 기술은 항상 퍼포먼스와 안정성이 중요하다. 지금은 서버에서 Drools Fusion 을 사용하고 있다. 이전 버전에서 Esper 를 사용하였으나 라이센스 문제로 인해서 Drools Fusion으로 옮겨왔다. 문제는 성능 테스트 중에 발생하였는데 메모리 leak 문제였다. “Always” 문제였기 때문에 문제점 파악은 쉽게 되었다. 테스트 방법 * 5대의 서버를 준비 * JMeter  _를 이용하여 throughput을 조절해가며 이벤트 발생 * 1대의 서버에 서버 App 실행 * JConsole 을 이용하여 JVM Heap 사이즈를 모니터링 결론 최종적으로 이벤트가 고속이든, 저속이든 Heap 사이즈가 늘어난다는 판단 분석 방법 JMap 을 이용하여 Memory Dump하였다. 그리고 메모리 덤프 분석툴인 MAT 를 이용하여 Dump 분석 결과를 확인 분석 결과 모든 이벤트 오브젝트가 Drools hashmap에 reference되어 있었다. 문제 해결 과정(How to solve) 우선은 내 코드들을 의심해봤다. 이벤트 수신, Pooling, 처리, 저장, DB Access 부분을 모두 훓어 보았다. 그러나 문제가 될 만한 부분은 찾지 못했다. 이건 뭐지? 내 상식 이상의 뭔가가 있나 한참을 고민했다. 결국은 소스 코드를 링크해서 디버깅을 해야하나, 소스 코드 분석을 해야하나 고민하면서 Drools 메뉴얼을 훓어 보다가 머리 속에서 스파크가 팍 튀었다. 다음은 Dro...