vSAN iSCSI Targetでちょっと苦戦した話。

ちょっとしたメモとして投稿。

 

 

事象

vSAN iSCSI Targetを作成したのにESXiホストでiSCSIサービスがLISTENされない

 

原因

vSAN iSCSI ターゲットの設定画面にて、「デフォルトのiSCSI ネットワーク」で指定したvmkernel portがIPv4無効な場合に発生する

 

説明

vSAN iSCSI Target を有効化する際に、デフォルトのiSCISネットワークとして既存のvmkernel portを選択する項目がある。

 


この項目は、その後のステップでiSCSI ターゲットを作成する際に任意のvmkernel portで上書きできるため、この時点で実際に利用するvmkernel portを指定する必要はない。

しかしながら、実際にiSCSI ターゲットのインターフェースとして利用可能なvmkernel portを利用する必要がある。

たとえば、VxRailなどのアプライアンス製品ではvmk0は自動検知用（IPv6利用）としてipv4が無効化されているケースがある。

このようなケースにおいて、ipv4が無効化されているvmkernel port を「デフォルトのiSCSI ネットワーク」として指定した場合、vSAN iSCSIターゲットサービスの起動時に該当のポートをiSCSIターゲットとしてバインドすることができず、正常に起動できなくなる。結果として、iSCSIターゲット作成時に上書きした他のvmkernel portも含めてiSCSI接続ができなくなる。

 

仮に以下の設定をしたとする。

・デフォルトのiSCSI ネットワークとしてvmk0 （IPv4が無効）を指定

・作成したiSCSI ターゲットでvmk5を指定

 

この状況でiSCSI Target (vmk5利用)に対してiSCSI接続を試みても接続ができない。

vitd.logを確認すると以下の実際には使われないvmk0に対してiSCSIサービスのバインドができないため、vmk5へのバインドも実施されていないことがわかる。

 

(vitd.log)

2024-01-17T08:32:41.542Z vitd[14330827]: Thread-0x530b63c700 Applying config generation 25
2024-01-17T08:32:41.542Z vitd[14330827]: Thread-0x52e7f98e80 received SIGHUP, reloading configuration
2024-01-17T08:32:41.547Z vitd[14330827]: Thread-0x52e7f98e80 Failed to fetch target interface vmk0 address for host 6502cb4d-a4cb-00d4-6784-246e96e0f702
2024-01-17T08:32:41.547Z vitd[14330827]: Thread-0x52e7f98e80 Unable to find CMMDS entry for interface vmk0 for host 6502cb4d-a4cb-00d4-6784-246e96e0f702 with error: Not found
2024-01-17T08:32:41.547Z vitd[14330827]: Thread-0x52e7f98e80 getaddrinfo for vmk0:3260 failed: Name or service not known
2024-01-17T08:32:41.547Z vitd[14330827]: Thread-0x52e7f98e80 invalid listen address vmk0:3260
2024-01-17T08:32:41.547Z vitd[14330827]: Thread-0x52e7f98e80 Failed to parse config file /vmfs/volumes/vsan:5257f0ac25cb2143-622849f027fdea74/.iSCSI-CONFIG/etc/vit.conf: Inappropriate ioctl for device
2024-01-17T08:32:41.548Z vitd[14330827]: Thread-0x52e7f98e80 configuration error, continuing with old configuration
2024-01-17T08:33:08.678Z vitd[14330827]: Thread-0x530b63c700 Applying config generation 26
2024-01-17T08:33:08.678Z vitd[14330827]: Thread-0x52e7f98e80 received SIGHUP, reloading configuration
2024-01-17T08:33:08.682Z vitd[14330827]: Thread-0x52e7f98e80 Failed to fetch target interface vmk0 address for host 6502cb4d-a4cb-00d4-6784-246e96e0f702
2024-01-17T08:33:08.682Z vitd[14330827]: Thread-0x52e7f98e80 Unable to find CMMDS entry for interface vmk0 for host 6502cb4d-a4cb-00d4-6784-246e96e0f702 with error: Not found
2024-01-17T08:33:08.682Z vitd[14330827]: Thread-0x52e7f98e80 getaddrinfo for vmk0:3260 failed: Name or service not known
2024-01-17T08:33:08.682Z vitd[14330827]: Thread-0x52e7f98e80 invalid listen address vmk0:3260
2024-01-17T08:33:08.682Z vitd[14330827]: Thread-0x52e7f98e80 Failed to parse config file /vmfs/volumes/vsan:5257f0ac25cb2143-622849f027fdea74/.iSCSI-CONFIG/etc/vit.conf: Inappropriate ioctl for device
2024-01-17T08:33:08.684Z vitd[14330827]: Thread-0x52e7f98e80 configuration error, continuing with old configuration

 

ESXiホストでTCPの待ち受け（LISTEN）確認できる esxcli network ip connection list を利用しても、設定したiSCSI ポートである3260ではLISTENされていないことがわかる

# esxcli network ip connection list | grep 3260
# echo $?
1

 

解決方法

vSAN iSCSI サービスの設定を編集してデフォルトのvmkernel port をIPv4が利用可能なものに変更すればよい。

変更後すぐに構成が適用されて、指定したvmkernel portでLISTENされるようになる

 

 


コメント

コメントを投稿

このブログの人気の投稿

vSwitchにSTPが不要な理由

イメージ
  ** 知っている人にとっては当たり前の内容です**     ESXiは多くの場合、冗長構成をとるために二つ以上のNICを利用し、それぞれ単一、もしくは別個の物理スイッチに接続されていると思います。 ESXiの物理NICはuplinkまたはvmnicとよばれ、ESXi内部にある仮想スイッチ（vSwitch）につながっています。 vSwitchはL2SWとしての役割をするため、物理スイッチをESXiの接続はスイッチ間接続となります。   図１：ネットワークトポロジ     vSwitchが物理スイッチと同等の動作をすると仮定した場合、この構成はループに相当します。 L2レベルでループがある場合は、ブロードキャストストームなどの問題が発生するためにSpanning Tree Protocol（STP）を設定する必要（最近では必ずしもそうとは言い切れないようですが。。。）があります。   ではvSwitchの場合でもSpanning Treeに参加する（ネットワークは専門外なので表現が間違っていたらすみません。。。）必要があるのでしょうか？ 表題からもわかるように答えはNoです。 L2ネットワークでBPDUと呼ばれるパケットをやり取りすることで Spanning Treeが構成されますが、実際に、vSwitchではこのBPDUをDropしますので、vSwitchのUplinkがBlockされることはありません。   ではなぜ、vSwitchではトポロジ的にLoopであるにもかかわらずSpanning Treeが不要なのでしょうか？Loopによる問題は発生しないのでしょうか？   実はvSwitchはFloodingが必要な通信に対して特殊な動作をします。 その特殊動作のため、トポロジ的にLoopであっても問題は発生せず、Spanning Treeに参加する必要がないのです。   たとえば、ARPなどの外部からのブロードキャストフレームをuplink経由でvSwitchが受け取った場合、vSwitchに接続されるVMに対してはフレームを転送しますが、ほかのUplinkに対してはフレームを転送しません。   下図ではUplink1からBroadcast Packetを受信した際の動作を示しています。 Broadcast Packetは仮想スイッチに接続されるVMに対して転送
続きを読む

ESXi に DNS サーバを何個まで登録できるか

イメージ
ESXi の DNS サーバの最大登録可能数を調べる vSphere 構築経験のある多くの方は2つまでとお答えになるかもしれない。 なぜならば、DCUI や vSphere Client から設定した場合、Primary DNS と Alternative DNS の2つまでしか設定できないからだ。 GUI から設定する場合、苦し紛れにカンマ区切りなどで3つ以上登録しようと試みても無駄である。GUI でエラーになってはじかれるだけだ。 ならば、CLI はどうか。 /etc/resolv.conf に手動で追記していくだけであればストレージの許す限り記載することはできるだろうが、 この方法は当然ながら標準的な手順ではない。 esxcli を利用して DNS を登録することも可能である。具体的には以下のコマンドを利用する esxcli network ip dns server add -s <ip_address> 上記のコマンドを利用してどこまで登録可能かを試してみた。 具体的には以下のコマンドを用いて255個のDNSサーバを追加してみた for i in `seq 1 255`; do esxcli network ip dns server add -s 192.0.2.$i ;done なお、本ブログで記載される IP Address は例示用に予約されたものであり、RFC5737 から拝借している。 結果として、少々時間はかかるが登録自体は問題なく成功した。 実環境においてこれほど多くの DNS の登録をすることはあり得ないので、事実上制限なしと考えられる。 なお、参考のために他ベンダーも含める形で DNS 登録数の最大数を調べたところ、2 か 3 にしているところが多いようだ。 DNS を大量に登録した際の動作を調べる DNS クエリのタイムアウト時間：5 秒則 ESXi の DNS Client は最近の systemd-resolved などではなく、レガシーなソフトウェアであるため、 resolv.conf の上から順番に問い合わせていき、問合せ先の DNS に到達できなかった場合に次の DNS サーバに問い合わせる動作になる。 次の DNS サーバに問い合わせる条件はあくまでも到達できなかった場合であり、到達できた
続きを読む

障害でVDSから切断されたVCSAの復旧方法

この投稿は vExpert Advent Calendarの10日目です。 https://adventar.org/calendars/6689 本記事では以下の状況と、簡易な復旧方法について説明します。 環境 vCSAは自身が管理するvSphere Cluster上に存在する。 vCSAは自身が管理する vDSに接続される vCSAが接続されるdvportgroupはEphemeralではない 該当のvCSA以外にvSphere Clusterを管理できる vCSA は存在しない  障害状況 vCSAは何らかの理由により、もともと存在していたESXiから、別のESXiに再登録されている。 vCSAはvDSから切断されてしまっている。 解説 上記の状況は、ESXiの障害などによって副次的に発生しうる状況です。もともと、vCSA は vDS に接続されていましたが、ESXi の障害などにより、いったん Guest OS から Shutdown され、Host Client を利用して別の ESXi に再登録したうえで起動しています。 この場合、もともとvCSAが接続されていたdvportは別の ESXi 上のポートであるため、起動時にvCSAはvNICを接続することができず、切断状態となります。 vCSAが切断状態になり、かつESXiのHost Clientからは仮想マシンをvDSに接続することができないため（Ephemeral Port を除く）、vCSAの復旧が困難となります。  この状況において有効な解決策としては事前に用意しておいたEphemeral Port を利用するか、もしくは一時的にVSSを作成して復旧する方法が一般的な方法です。 事前にEphemeral Port の準備がない場合には、VSSを作成することになりますが、Uplinkに空きがない場合は、Uplinkを付け替える必要があり、手順は複雑になります。 今回はVSSを利用しない簡易な復旧方法についてご紹介します。 簡易な復旧方法 完結に手順を示すと以下です。 vNICが切断されているVCSAをShutdown  vCSAが存在する ESXi を Maintenance Mode～Reboot  vCSA を再度起動～vNICが接続状態であることを確認  上記に示した通り、ESXiをリブート
続きを読む