public static class WinAPI
    {
       
        [DllImport("user32.dll", SetLastError = true)]
        public static extern IntPtr SetParent(IntPtr hWndChild, int hWndNewParent);

        [DllImport("user32.dll", SetLastError = true)]
        public static extern IntPtr SetWindowLongPtrA(IntPtr hwnd, int nIndex, int dwNewLong);

public void Command1(object sender)
        {
            const int GWL_STYLE = (-16);
            const int  WS_CHILD = 0x40000000;
            const int WS_VISIBLE = 0x10000000;

            frm = new Form1(sender);

            var vsoWindow = this.Application.ActiveWindow.Windows.Add(
                bstrCaption: "My New Window",
                nFlags : Visio.VisWindowStates.visWSVisible | Visio.VisWindowStates.visWSDockedRight,
                nType : Visio.VisWinTypes.visAnchorBarAddon,
                nWidth : frm.Width, nHeight : frm.Height);

            var s1 = WinAPI.SetWindowLongPtrA(frm.Handle, GWL_STYLE, WS_CHILD | WS_VISIBLE);
            var s2 = WinAPI.SetParent(frm.Handle, vsoWindow.WindowHandle32);

            frm.Top = 0;
            frm.Left = 0;
            frm.Show();

private const string AddonWindowMergeId = "29dc9325-911a-4ad1-8594-d775e374c180";

....
_visioWindow = visioParentWindow.Windows.Add(
                        _form.Text,
                        (int)VisWindowStates.visWSDockedRight | (int)VisWindowStates.visWSAnchorMerged | (int)VisWindowStates.visWSVisible,
                        VisWinTypes.visAnchorBarAddon,
                        0,
                        0,
                        300,
                        300,
                        AddonWindowMergeId,
                        string.Empty,
                        0);

SetWindowLong(_form.Handle, GWL_EXSTYLE, WS_EX_COMPOSITED);

private static void JiggleWindow(
            IntPtr handle)
        {
            var lpRect = new RECT();
            GetWindowRect(handle, ref lpRect);

            var l = lpRect.left;
            var T = lpRect.top;
            var w = lpRect.right - lpRect.left;
            var h = lpRect.bottom - lpRect.top;

            const int flags = SWP_NOCOPYBITS | SWP_NOMOVE | SWP_NOZORDER;
            SetWindowPos(handle, new IntPtr(0), l, T, w, h + 1, flags);
            SetWindowPos(handle, new IntPtr(0), l, T, w, h, flags);
        }

SetWindowPos(handle, new IntPtr(0), l, T, w, h + 1, flags);
SetWindowPos(handle, new IntPtr(0), l, T, w, h, flags);

if (_visioWindow != null && _form != null)
                {
                    _form.Hide();

                    SetWindowLong(_form.Handle, GWL_STYLE, WS_OVERLAPPED);
                    SetParent(_form.Handle, (IntPtr)0);

                    _visioWindow.Close();
                    _visioWindow = null;
                }

                if (_form != null)
                {
                    _form.Close();
                    _form.Dispose();
                    _form = null;
                }