IE 또는 Firefox에서 Internet Connection 수 설정

L4 솔루션이나 L7 솔루션 등의 Load Balancer를 시험할 때 IE 또는 Firefox의 Maxconnections 설정을 변경하여 L4/L7 솔루션의 차이점을 육안으로 볼 수 있다.

예를 들어, L4 솔루션의 경우 connection 기반으로 load balancing을 하는 반면 L7 솔루션은 Request base load balancing 솔루션이기 때문에 2개의 실제 서버를 load balancing할 때 각각 보여지는 화면의 내용이 다르게 보인다. 이런 내용을 직접 시연하기 위해서는 IE 또는 Firefox에서 사용자의 Http Max Connection 설정을 1개로 조정하여야 정확한 결과를 얻을 수 있으며, 이를 설정하는 방법은 아래와 같다.

• Firefox
  Firefox는 비교적 쉽게 변경이 가능하도록 기능을 제공하며, 주소창에 "about:config"라고 입력 수 실행하면 "고급설정변경" 메뉴가 보이며 해당 메뉴에서 "network.http.max-connections" 항목과 "network.http.max-connections-per-server"항목에 각각 1로 설정하면, 하나의 connection을 생성 후 http request를 전송한다.
• IE 7/8
  IE에서는 Firefox처럼 간단하진 않지만 아래와 같이 registry 설정을 변경하여 적용이 가능하다.
  registry editor에서 "FEATURE_MAXCONNECTIONPERSERVER" 항목과 "FEATURE_MAXCONNECTIONSPER1_0SERVER"항목을 변경하면 적용이 된다. PC의 Registry설정은 HKEY_LOCAL_MACHINE와 HKEY_CURRENT_USER에 각각 설정이 가능하며 어느쪽을 설정해도 동일할 결과를 얻을 수 있다.

IE의 설정 변경에 대한 자세한 내용을 아래의 링크를 참조하면 된다.
http://msdn.microsoft.com/en-us/library/cc304129(VS.85).aspx

MIP 사용현황 체크

넷스케일러 운영 중인 상태에서 현재 설정된 MIP 또는 SNIP에 대한 사용현황을 확인하는 쉬운 방법이 있다.

넷스케일러 CLI로 접속 후 SHELL MODE로 변경한 다음 아래의 명령어를 사용하면 현재의 MIP 또는 SNIP별로 사용 현황 및 가능한 여유를 확인 가능하다.

(CLI)
> SHELL
# nsapimgr -d mappedip

실제로 위 명령어를 사용하면 아래와 같은 결과화면을 확인할 수 있다.

넷스케일러에서의 사용자 IP 삽입

넷스케일러를 운영 중인 사이트에서 한번씩 아래와 같은 경우가 존재할 수 있다.

이미 내부의 목적에 의해 x-forwarded-for 또는 Client-IP를 사용하는 경우에 넷스케일러에서도 동일하게 사용자의 요청 헤더에 x-forwarded-for 또는 Client-IP를 사용할 경우 기존의 헤더 설정 값에 넷스케일러의 설정 값이 추가(ADD)되어 사용자의 IP가 두개가 기록되는 현상이 발생한다.

이럴 경우 다른 함수를 사용할 수도 있으나 그럴 상황이 허락되지 않을 경우 넷스케일러의 Rewrite 기능을 통해서 해결할 수 있는 방법이 있다. 내용은 기존에 이미 넷스케일러에서 사용하는 헤더 값과 동일한 값을 사용할 경우 기존 헤더 값을 지우고 넷스케일러의 해더 값을 삽입하는 방법이다.

add rewrite action del_x_forwarded_for delete_http_header x-forwarded-for
add rewrite action del_client_ip delete_http_header client-ip
add rewrite policy check_x_forwarded_for_policy 'HTTP.REQ.HEADER("x-forwarded-for").EXISTS' del_x_forwarded_for
add rewrite policy check_client_ip_policy 'HTTP.REQ.HEADER("client-ip").EXISTS' del_client_ip
add rewrite action insert_ns_client_header insert_http_header NS-Client 'CLIENT.IP.SRC'
add rewrite policy insert_ns_client_policy 'HTTP.REQ.HEADER("x-forwarded-for").EXISTS.NOT HTTP.REQ.HEADER("client-ip").EXISTS.NOT' insert_ns_client_header
bind rewrite global check_x_forwarded_for_policy 100 200
bind rewrite global check_client_ip_policy 200 300
bind rewrite global insert_ns_client_policy 300 END

위 설정은 global 정책으로 binding하였지만 경우에 따라서는 특정 virtual server에 정책을 binding하여 사용할 수 있다.

위 rewrite 설정은 로컬 랩에 구성된 넷스케일러 version 9.1 build 97.3 cl에서 확인결과 정상적으로 동작하였고 내부의 서버에서도 access_log 파일에 실제 사용자의 IP가 기록되었다. service의 IP insert 옵션을 사용하지 않도서도 사용자의 실제 IP를 입력하는 방법이기도 하다.

CC-Attack의 필드 설명

정확한 출처는 기억이 나질 않지만 근래 많이 발생하는 HTTP Flooding 공격 유형의 하나로 CC-Attack이라는 공격이 있다.

이 CC-Attack이라는 공격 유형은 요청 시 Cache-Control 설정을 User-Agent 해더 필드에 첨부하여 서버의 부하를 발생시키는 특성을 가지고 있다. CC-Attack의 특성인 Cache-Control 설정 내용은 아래와 같다.

Cache-Control: no-store, must-revalidate

• 캐시 저장 금지(no-store)
  no-store 지시자의 목적은 부주의하게 민감한 정보를 백업테이프와 같은 곳에 보유하거나 배포하는 것을 방지하는 것입니다. no-store 지시자는 요구/응답 모두에 발송할 수 있습니다. 요구에 포함하여 발송하게 되면 캐시는 요구의 어떤 부분 또는 이 요구에 대한 어떠한 응답도 캐시해서는 안됩니다. 응답에 발송하게 되면 캐시는 이 응답의 어떤 부분 또는 응답을 이끌어 낸 요구를 저장해서는 안됩니다. 이 지시자는 비공유 및 공유 캐시에 모두 적용됩니다.
  
• 캐시의 재검증(must-revalidate)
  규약은 원서버가 계속되는 캐시 사용에 대한 캐시 엔트리 검증을 요구할 수 있는 메커니즘을 포함하고 있습니다. must-revalidate 지시자가 캐시가 수신한 응답에 포함되어 있고 캐시가 계속되는 요구에 응답하기에는 낡아진 이후에 캐시는 먼저 원서버에 이를 재검증하기 전에는 엔트리를 사용해서는 안 됩니다. must-revalidate 지시자는 특정 규약 기능의 안정된 운영을 위해서 필요합니다. 어떠한 경우이든 HTTP/1.1 캐시는 must-revalidate 지시자를 반드시 따라야 합니다.

좋은 글을 올려주신 분께 감사드리며, 출처가 확인되면 등록하겠습니다.

Linux GDM problem(about unable authenticate messages)

어플리케이션 테스트를 위해 리눅스 시스템을 활용할 일이 많은 환경에서 가끔 새롭게 시스템을 설치하고 업데이트 한 이후 아래와 같은 문제가 발생할 수 있다.
(이 상황은 Fedora Core 10 버젼 설치 후 발생한 문제 임)

root 사용자로 GUI 화면에서 로그인을 시도하면 "Unable Authenticate users"라는 메세지가 뜨면서 로그인이 되지 않는 문제가 발생한다. 이는 보안상의 이유로 root 사용자의 로그인을 차단한 정책 때문이며, 아래와 같은 방법으로 문제를 해결할 수 있다.

1. GUI에서 CLI 환경으로 변경한 후 root 사용자로 로그인
   일반적으로 "Ctrl+Shift+F2" 키를 누르면 GUI기반에서 CLI 기반으로 변경되며, root 사용자로 로그인할 수 있다.
2. 로그인 후 아래의 경로의 파일을 수정
   /etc/pam.d/gdm
   (만약을 위해 gdm 파일을 백업한 후 수정 하는 것이 안정적인 방법이다.)
   cp -aR /etc/pam.d/gdm /etc/pam.d/gdm.old
   그리고 gdm 파일을 vi 편집기로 열어서 아래의 라인을 주석처리 한다.
   # auth required pam_succeed_if.so user != root quiet
   
3. 수정을 다 하였으면 다시 GUI 모드로 변경 후 root로 로그인할 수 있다.
   일반적으로 "Ctrl+Shitf+F7" 키를 누르면 CLI에서 GUI 모드로 변경할 수 있다.

이 방법은 root 사용자 로그인 문제 뿐만 아니라 다른 사용자의 문제점을 해결하는 방법으로도 유용하게 사용할 수 있는 방법이니 꼭! 숙지하고 있으면 좋은 것 같다.

넷스케일러 TCPDUMP 사용법

넷스케일러의 기능 중에 현재 트래픽을 TCPDUMP 유틸을 통해 Packet Capture 기능을 제공하는데, NSTRACE 유틸을 사용하지 않고서도 패킷을 cap 또는 pcap 형식으로 Capture할 수 있다.

사용법 : nstcpdump.sh -w /var/nstrace/trace1.pcap -i 1/1 - i 1/2

원래 TCPDUMP 유틸은 실시간으로 트래픽을 확인하는 과정에 많이 사용되지만, 확인하는 트래픽을 cap 또는 pcap 형식으로 저장할 때 위 명령어를 사용하면 유용하게 Capture할 수 있다.

다른 nstrace.sh 또는 nstcpdump.sh 유틸 명령어에 대해서는 다른 메뉴얼을 확인하시기 바랍니다.

소규모 엔터프라이즈의 수요 해결을 위한 MPX 제품 출시!

5월 21일 인터롭에서 시트릭스는 500 메가바이트(Mbps)에서 3 기가바이트(Gbps)에 걸친 7개의 레이어와 함께 최고의 가격-성능을 가진 세 가지의 새로운 MPX 어플라이언스를 소개했습니다.

새로운 넷스케일러 MPX 7500과 MPX 9500 어플라이언스는 중소 엔터프라이즈에 현저한 향상을 가져다 주었으며 새로운 MPX 5000은 처음으로 소규모 엔터프라이즈에 진보한 넷스케일러 MPX 아키텍처를 제공했습니다.

새로운 모델은 최고급 넷스케일러 MPX 솔루션에서 이용할 수 있는 것과 동일한 풍성한 특징을 제공합니다. 하지만 소규모 업체에 걸맞게 가격 면에서 훨씬 경제적입니다.본 디자인은 향상된 멀티코어 MPX 아키텍처를 이용해 애플리케이션 가속화, 서버의 이용 가능성 그리고 통합된 애플리케이션 방화벽 및 SSL VPN 보안을 위해 완벽한 콘커런스 기능(Concurrency feature)를 제공하도록 고안되었습니다.

이 모든 기술은 저 전력 및 1U의 공간 효율적 디자인을 채택 함으로써 친환경적인 컴퓨팅을 지원합니다. 소규모 엔터프라이즈의 경우에는 대부분의 기능을 동시에 사용하고 경쟁적으로 제공하기 때문에 모듈 사용에 심각한 제한이 있었습니다.

MPX 5000은 지금 바로 사용 가능하며 유닛 당 12,000달러이고 전 세계적으로 수만 건의 젠앱 구현 해결했습니다. MPX 7500 주문도 곧 가능합니다.8월부터 MPX 9500이 이용 가능 하다는 소식과 함께, 6월 8일부터 새로운 모델을 세 가지 소프트웨어 에디션과 함께 이용할 수 있음을 알려드립니다.

참고 : 새로운 제품의 대략적인 Spec은 아래와 같습니다.

• MPX5500( DualCore, 4GRAM, 4x10/100/1000 base-T, 500Mbps throughtput)
• MPX7500( QuadCore, 8GRAM, 8x10/100/1000 base-T, 1Gbps throughput)
• MPX9500( QuadCore, 8GRAM, 8x10/100/1000 base-T, 3Gbps throughput)

자세한 Spec 내용은 아래의 링크를 통해 확인이 가능합니다.

넷스케일러 Spec 확인

접속한 IP 주소의 위치추적

네트워크 운영 또는 관리를 하다보면 많이 찾게되는 것중의 하나가 자신의 서비스 시스템에 접근할 또는 공격으로 추정될 때 해당 IP가 어느 나라인지 어디 지역인지를 궁금해한다.

이때 아래의 사이트를 이용하면 쉽게 찾을 수 있다.

1. MaxMind의 GeoIP Test Demo
   http://www.maxmind.com/app/loopup_city?type=geolite
2. IPligence의 Google Map Demo
   http://www.ipligence.com/geolocation/?lang=en

IPlignece의 Goole Map Demo는 친정하게 지도까지 보여주어서 조금 더 쉽게 찾을 수도 있다.

아파치 ETag를 이용한 정적파일 최적화

ETag는 HTTP 1.1에서 새롭게 나온 HEADER Directive 입니다. 이는 브라우져의 Cache에 저장된 파일과 웹서버의 파일이 서로 일치하는지를 식별하기 위한 방법 중에 하나로 사용 됩니다.

일반적으로 ETag는 파일을 구분하기 위해 inode 값을 사용하는데 만약 여러 대의 웹서버를 운영하는 환경에서는 접근하는 서버에 따라 inode 값이 다르기 때문에 ETag 값도 달라집니다.

브라우져는 Cache된 파일의 갱신 여부를 확인하기 위해서 수정일자와 ETag 값을 사용하는데 우선 순위는 ETag 값을 먼저 비교한 후 수정일자를 이후에 확인하는 과정을 거친다. 만약 여러 대의 웹서버를 사용하는 환경에서는 ETag 값이 다르게 인식되어 다른 서버에 접근할 경우 기존의 Cache를 지우고 갱신하게되어 Cache의 효율성이 많이 떨어지게 된다.

Cache의 효율성이 떨어지면 사용자의 입장에서는 모든 Contents를 새롭게 갱신하는 과정을 거치게 됨으로 응답 속도의 저하를 초래할 수도 있다.

그래서 보통 운영 환경에서는 ETag 값을 제거하거나 inode 값을 빼는 방식을 사용하는 일반적으로는 ETag 값을 제거하는 방식을 사용한다.

제거하는 방법은 아래와 같다. 이때 주의할 점은 Apache의 Option에서 Indexes 설정이 추가되면 ETag 설정이 지워지지 않기 때문에 반드시 Indexes 속성을 함께 제거해 주어야 한다.


...
FileETag None
...
#
# Options FollowSymLinks MultiViews # Indexes 삭제해야 함
# AllowOvrride None
# Order deny, allow
# DirectoryIndex index.php
#


# Expire 설정
#
# ExpiresActive On
# ExpireDefault "access plus 1 years"
#

#Contents Compression 설정
#
# AddOutPutFilterByType DEFLATE text/html text/css application/x-javascript
#

...


Apache 웹서버의 기본 ETag 값은 inode, mtime, size 이며, 한대의 웹서버로 운영할 경우 문제가 발생하지 않지만, L4 등의 로드밸런스를 통해 서비스할 경우 각각의 서버별로 inode 값이 다르기 때문에 다른 웹서버로 요청할 때는 기존의 cache 정보가 다른기 때문에 서버에 재 요청을 하게 된다.

참조 : http://httpd.apache.org/doc/2.0/mod/core.html#fileetag

Connection Limitation 정보

L4장비(C社)는 일반적인 L4 장비와 다르게 TCP Proxy로 동작한다. 즉, L4장비를 기준으로 Client Connection과 Server Connection이 각각 독립적으로 관리된다.

사용자의 Connection 요청을 L4 장비가 받아서 3 Hand Shaking을 통해 Established Connection을 생성하고, 이렇게 생성된 Connection을 통해 Request가 전송될 때 L4 장비가 Server와의 3 Hand Shaking을 통해 Established Connection을 생성하여 해당 Request를 처리한다.

이렇게 TCP Proxy처럼 동작하는 L4 장비의 경우 L4 레이어에서 자신의 IP가 아닌 사용자가 최초 요청한 IP를 그대로 서버에게 전달하거나 자신의 IP(Proxy IP)를 사용하되 L7 레이어 HEADER 정보에 실제 사용자의 IP를 삽입하여 전달하는 방식으로 사용자의 IP를 전달하는데, 여기서 L4 레이어에서 사용자의 IP를 직접 넘기는 구성으로 설계할 경우 Server Connection의 Limitation에 존재한다.

이는 실제 사용자의 IP에 관리 Port를 붙여서 실제 사용자의 IP를 관리하기 때문에 Port정보로 사용할 수 있는 대략 65,000개까지 밖에 사용하지 못한다. 즉, Server Connection이 대략 65,000까지만 허용할 수 있다.

하지만 대용량 트래픽을 처리하는 환경에서 Server Connection이 65,000개를 넘어설 수 있는데 이때는 아래의 Hidden 명령어를 통해 해당 제약 사항을 제거 할 수 있다.

명령어 : nsapimgr -ys usip_noreuse_nolimit=0

구체적인 이유에 대해서는 조금 더 확인 후 댓글로 첨부를 할 예정이다.

L4 DSR 구성 시 ARP Issue에 대해서

일반적으로 L4 장비를 통해 내부 서버팜의 서버에 대해 균등하게 로드를 분배시키는데, 이전 게시한 게시물(DSR 구성)으로 구성하는 경우는 응답 트래픽이 L4 장비가 감당하기 어려울 경우 응답 트래픽이 L4를 경유하지 않도록 구성할 수 있다.

이렇게 동영상 또는 멀티미디어 데이터에 대한 DSR 구성 시 아래와 같은 이슈가 발생할 수 있다.

L2 Switch에서 L4 장비에 설정된 VIP의 MAC이 Announce되는게 아니라 Real Server의 Loopback에 설정된 VIP가 Announce되어 사용자의 요청 트래픽이 L4 장비의 VIP를 경유하지 않고 다이렉트로 Real Server로 전달되는 현상이 발생할 수 있다.(L2 Switch는 L2레벨 Switch)

이럴 경우 Real Server의 네트워크 설정을 약간 변경해야 하는데 아래와 같이 설정을 할 수 있다.(리눅스의 경우)

echo 1 > /proc/sys/net/ipv4/conf/eth0/arp_ignore
echo 2 > /proc/sys/net/ipv4/conf/eth0/arp_announce

또는

만약 리눅스 시스템에 /etc/sysctl.conf 파일이 있다면 해당 파일을 열어서 아래와 같이 정보를 추가하거나 수정한다.

net.ipv4.conf.eth0.arp_ignore = 1
net.ipv4.conf.eth0.arp_announce = 2

해당 설정 후 시스템을 재시작하면 eth0 인터페이스(현재 L2 스위치에 연결된)를 통해 Loopback VIP 정보가 Announce되거나 ARP 요청에 따른 Reply를 처리하지 않기 때문에 MAC이 중복되어 발생되는 ARP Issue를 해결할 수 있다.

참고 :
http://kb.linuxvirtualserver.org/wiki/Using_arp_announce/arp_ignore_to_disable_ARP

넷스케일러 Troubleshooting 가이드 중 CPU 점유률 관련 TroubleShooting이 필요할 경우 이전에 언급된 nsprofmon이라는 CPU 프로파일링 스크립트(시트릭스에서 OS 버젼별로 제공)가 없을 경우 사용할 수 있는 방법에 대해서 정리한다.

명령어 : nsconmsg
사용법 : nsconmsg -K [해당날짜의 newnslog 파일] -s totalcount=[원하는 count정보] -g cpu_use -d current
사용예 :

1. 특정 시간대의 newnslog 파일 중 CPU 점유률이 20%가 넘은 프로세스 정보를 확인할 경우 아래와 같이 사용함
   #nsconmsg -K /var/nslog/newnslog.10 -s totalcount=200 -g cpu_use -d current
2. 현재 시점의 CPU 점유률이 10% 이상인 프로세스를 확인하고자 할 경우 아래와 같이 사용함.
   #nsconmsg -s totalcount=100 -g cpu_use -d current

기타 유용한 TroubleShooting 가이드는 아래의 링크를 통해 다운로드 받아서 참조하시기 바랍니다. 넷스케일러 엔지니어라면 언제든지 사용하여 분석할 준비가 되어있어야 하지 않을까요??

넷스케일러 troubleshooting guide 다운로드

넷스케일러의 SIMPLE ACLs 설정 방법

넷스케일러의 SIMPLE ACLs의 설정은 아래와 같은 화면에서 간략한 정보 몇 가지만 입력하면 Block ACL을 설정할 수 있으며, 소스 IP만을 차단하는 환경에서는 유용하고 쉽게 적용할 수 있습니다.











위 그림과 같이 넷스케일러 GUI에서 Network > ACLs > Symple Acls 경로에서 Add 버튼을 클릭하면 볼 수 있으며, 자세한 내용은 아래와 같습니다.

1. Name : 관리할 ACL 이름을 입력합니다.


2. Action은 Block 정책만 설정이 가능합니다.


3. Protocol 선택은 TCP 또는 UDP를 선택할 수 있으며, 선택하지 않을 경우 ANY가 됩니다.


4. SourceIP는 필수 입력 요소로 실제 차단할 IP 주소를 입력할 수 있습니다.(범위입력 안됨)


5. Destination Port 는 해당 사용자에 대한 특정 Destination Port만을 차단할 때 해당 포트 번호를 명시하면 됩니다.(범위입력 안됨)


6. TTL은 해당 ACLs의 적용 시간을 설정할 수 있으며, 해당 사용자를 1시간 차단하려면 TTL 필드에 3600을 입력하시면 됩니다.(Sec단위)

그리고 SIMPLE ACLs은 Extended ACLs보다 우선순위에 있으며 아래와 같은 Diagram으로 처리가 됩니다.

잘되는 나!!

몽상이 아닌 꿈을 꾸는 사람과 어울려야 한다.

거대한 목표를 세우고 위대한 일을 이루려는 사람과 가까이하면 우리도 그렇게 된다.

우리가 잠재력을 온전히 발휘하도록 도와줄 사람을 사귀어야 한다.


- 조엘 오스틴의《잘되는 나》중에서 -

How to use CPU analysis script in the Netscaler

넷스케일러를 사용하다보면 특정 기능 또는 특정 상황에 CPU 점유률이 Peak를 치거나 CPU 점유률이 많이 올라가는 현상을 한번씩 볼 수 있는데, 이때 어떤 프로세스에 의해 CPU 점유률이 증가하는 가에 대한 분석을 할 수 있는 스크립트를 이용해서 원인 규명을 할 수 있다.

이 Script는 Case를 Open하여 본사에서 지원을 받을 수 있다.

사용 방법은 아래의 절차에 의거하여 실행하고 결과를 확인할 수 있다.

1. 받은 파일의 압축을 해제
   (파일을 /var/tmp 경로에 복사한 후 ns-8.1-56.7.tgz라면)
   >shell
   #cd /var/tmp/
   #tar zxvf ns-8.1-56.7.tgz
2. Script 실행을 위한 메모리 Buffer를 할당
   #/var/tmp/nsprofmon -ys profbuf=16k
3. Script를 실행
   (2분 정도 실행하면 결과 화면을 볼 수 있다.)
   #/var/tmp/profmon -K /var/tmp/ns-8.1-56.7 -s sort=2 -T 120 -recapture tee /var/tmp/cpu.log
4. 모든 Script 실행 후 메모리 Buffer를 비움(불필요한 메모리 점유를 해지)
   #/var/tmp/nsprofmon -yS profbuf
   (옵션의 -yS로 S를 대문자로 입력하면 Buffer 메모리를 해지 함)

실행 결과를 토대로 직접 분석을 하거나 TechSupport의 도움을 통해 직접적인 CPU 점유률에 대한 원인 분석을 진행할 수 있다.